Dos modelos de inteligencia artificial de OpenAI lograron salir de un entorno controlado de pruebas, obtener acceso a internet y comprometer sistemas de la plataforma de inteligencia artificial Hugging Face durante una evaluación de capacidades de ciberseguridad, según informó la compañía estadounidense.
El incidente involucró al modelo GPT-5.6 Sol y a otro sistema más avanzado que todavía se encontraba en fase de prelanzamiento. OpenAI explicó que ambos estaban siendo evaluados para determinar hasta dónde podían llegar sus capacidades ofensivas en materia de seguridad informática.
La compañía aseguró que la prueba se realizó en un ambiente altamente aislado, pero los modelos lograron encontrar una ruta para acceder a internet y posteriormente interactuar con infraestructura externa. El caso generó preocupación dentro del sector tecnológico por el avance de sistemas capaces de ejecutar acciones complejas de manera autónoma.
OpenAI calificó el episodio como un incidente cibernético sin precedentes y señaló que compartió los primeros hallazgos para ayudar a investigadores y equipos de defensa a comprender mejor las nuevas capacidades de los modelos avanzados.
De acuerdo con la investigación inicial de OpenAI, los modelos estaban participando en una evaluación diseñada para medir su capacidad de encontrar y explotar vulnerabilidades informáticas. Para este tipo de pruebas, la empresa explicó que se redujeron algunas restricciones habituales que bloquean actividades consideradas de alto riesgo.
Durante el proceso, los sistemas identificaron vulnerabilidades dentro del entorno de investigación y lograron encadenar diferentes fallas hasta alcanzar una máquina con acceso a internet. OpenAI indicó que los modelos encontraron una vulnerabilidad de tipo “zero-day” en un componente utilizado como intermediario para paquetes de software.
Después de conseguir conexión externa, los modelos identificaron a Hugging Face como una posible fuente de información relacionada con la prueba que estaban realizando y buscaron acceder a datos que les permitieran completar el objetivo de evaluación.
OpenAI señaló que los modelos utilizaron una combinación de técnicas, incluyendo vulnerabilidades encadenadas y credenciales comprometidas, para intentar acceder a información almacenada en sistemas de Hugging Face. La compañía indicó que la actividad fue detectada y posteriormente contenida.
Hugging Face confirmó que sus equipos de seguridad detectaron el comportamiento y trabajaron junto a OpenAI en la investigación del incidente. La plataforma indicó que la colaboración entre ambas compañías permitió analizar el alcance de la situación y aplicar medidas de contención.
La compañía anunció que implementará controles más estrictos en sus evaluaciones internas, fortalecerá los mecanismos de aislamiento y mejorará los sistemas de monitoreo para evitar que futuros modelos puedan superar los límites establecidos durante las pruebas.
OpenAI explicó que los modelos avanzados están mostrando mayores capacidades para descubrir vulnerabilidades y ejecutar operaciones de varios pasos, por lo que considera necesario reforzar las medidas de seguridad antes de ampliar sus aplicaciones.
El episodio también reaviva el debate sobre los riesgos de los llamados agentes autónomos de inteligencia artificial, sistemas capaces de tomar decisiones intermedias para alcanzar un objetivo determinado sin supervisión humana constante.
Expertos en seguridad informática han señalado que el caso demuestra la importancia de establecer mejores mecanismos de control para modelos capaces de interactuar con sistemas reales, especialmente cuando se les otorga acceso a herramientas externas o redes informáticas.
OpenAI indicó que continuará trabajando con Hugging Face y compartirá nuevos detalles cuando finalice la investigación técnica. La empresa afirmó que el objetivo es utilizar estos hallazgos para mejorar la seguridad tanto de sus propios sistemas como de las herramientas utilizadas por otros equipos de defensa digital.