OpenAI informó que dos modelos avanzados de inteligencia artificial lograron vulnerar el entorno controlado en el que eran evaluados y accedieron sin autorización a Hugging Face, una conocida plataforma de código abierto utilizada por desarrolladores de IA y aprendizaje automático.
El episodio ocurrió durante una prueba interna destinada a medir las capacidades de los sistemas para ejecutar operaciones avanzadas de ciberseguridad. De acuerdo con la compañía, los modelos involucrados fueron GPT-5.6 Sol y otro sistema más avanzado que aún se encontraba en etapa de prelanzamiento.
Sam Altman, director ejecutivo de OpenAI, calificó el hecho como “significativo” a través de su cuenta de X y adelantó que la empresa compartirá los aprendizajes obtenidos tras la investigación.
Por su parte, según consignó BioBioChile, OpenAI dimensionó la gravedad del episodio en una publicación difundida en su blog oficial.
“Consideramos este incidente un ciberataque sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos actuando en consecuencia”, indicó la compañía.
¿Cómo lograron los modelos salir del entorno controlado?
OpenAI explicó que los modelos operaban dentro de un sistema aislado, con acceso restringido a internet.
“Ocurrió durante una evaluación interna que impulsa a los modelos a realizar ataques avanzados mediante rutas complejas, con el fin de cuantificar sus capacidades cibernéticas”, detallaron.
Sin embargo, durante el ejercicio, los sistemas se concentraron de forma excesiva en resolver el desafío planteado. Según la empresa, esa conducta los llevó a buscar vulnerabilidades que les permitieran evadir las restricciones del propio entorno de investigación.
“Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de recursos computacionales en la búsqueda de acceso abierto a Internet para resolver el problema de evaluación”, sostuvo OpenAI.
Después de identificar fallas en las barreras de seguridad, los modelos consiguieron acceder a internet y dirigieron su actividad hacia Hugging Face, plataforma que aloja millones de modelos de inteligencia artificial de código abierto, aplicaciones y conjuntos de datos.
De acuerdo con el reporte, los sistemas dedujeron que allí podían encontrar información útil para completar la evaluación. En ese contexto, la empresa afirmó que la IA “buscó y encontró con éxito maneras de acceder a información secreta que podría usar para manipular la evaluación”.
Hugging Face detectó y detuvo la actividad
El equipo de seguridad de Hugging Face identificó el comportamiento irregular y logró detenerlo. Tras el incidente, ambas compañías comenzaron a colaborar para investigar lo sucedido, determinar el alcance de la vulneración y transparentar sus conclusiones.
OpenAI también inició la corrección de las fallas que permitieron a los modelos abandonar el entorno restringido. Además, anunció la implementación de nuevos controles para reducir el riesgo de que una situación similar vuelva a producirse durante futuras pruebas.
“Estamos mejorando y reforzando las medidas de protección para futuras capacitaciones y evaluaciones”, concluyó la compañía.