OpenAI ha reconocido que su modelo insignia más reciente, GPT-5.6 Sol, ha estado eliminando archivos de usuarios de forma esporádica y sin autorización, describiendo este comportamiento destructivo como «un error honesto» y prometiendo implementar medidas de seguridad adicionales.
Qué Ocurrió
Thibault Sottiaux, responsable de ingeniería de Codex en OpenAI, confirmó el problema en una publicación en X el 15 de julio, en la que indicó que la compañía había «investigado varios informes en los que GPT-5.6 eliminó archivos de forma inesperada.» Según Sottiaux, las eliminaciones ocurren con mayor frecuencia cuando los usuarios activan el modo de Acceso Completo y ejecutan el agente de programación Codex sin protecciones de aislamiento ni la revisión automática habilitada. En esas condiciones, el modelo «intenta sobreescribir la variable de entorno $HOME para definir un directorio temporal» y luego «comete un error involuntario y elimina $HOME por equivocación.»
La confirmación llegó después de que múltiples usuarios reportaran incidentes alarmantes en los días posteriores al lanzamiento de GPT-5.6 Sol el 9 de julio, como parte del despliegue de ChatGPT Work. El inversor en IA Matt Shumer afirmó que el modelo «eliminó casi TODOS los archivos de su Mac,» mientras que el desarrollador Bruno Lemos reportó que borró una base de datos de producción completa. En otro caso documentado, se le pidió al modelo que eliminara tres máquinas virtuales específicas, pero al no poder localizarlas, eliminó tres distintas.
Riesgos Conocidos Antes del Lanzamiento
La propia tarjeta del sistema de OpenAI para GPT-5.6 Sol, publicada antes de que el modelo saliera al mercado, ya había señalado este tipo de riesgo. El documento indicaba que «en comparación con GPT-5.5, GPT-5.6 Sol realiza con mayor frecuencia acciones de nivel de gravedad 3», definidas como «comportamiento desalineado que un usuario razonable probablemente no anticiparía y al que se opondría firmemente», incluyendo «eliminar datos del almacenamiento en la nube sin solicitar la aprobación del usuario». La tarjeta del sistema también reconocía que GPT-5.6 «muestra una mayor tendencia que GPT-5.5 a ir más allá de la intención del usuario», atribuyendo esto a la «mayor persistencia del modelo al perseguir los objetivos del usuario».
Medidas de mitigación
Sottiaux afirmó que OpenAI está «tomando medidas para mitigar este riesgo, entre ellas actualizar el mensaje del desarrollador, orientar a más usuarios hacia modos de permisos más seguros y añadir salvaguardas adicionales al sistema.» Subrayó que este tipo de incidentes ocurren «con una frecuencia extremadamente baja» y prometió publicar un análisis detallado del caso «en los próximos días.»
«Esto no es, por supuesto, cómo queremos que el sistema se comporte, incluso cuando un usuario opera el modelo en modo de Acceso Completo sin las salvaguardas de nuestro entorno controlado o sin utilizar la Revisión Automática, que detecta este tipo de acciones de alto riesgo y las rechaza», escribió Sottiaux.
