Un experimento de OpenAI encendió las alertas en el mundo de la inteligencia artificial luego de que uno de sus modelos más avanzados realizara de forma autónoma un ciberataque contra la empresa de desarrollo de IA Hugging Face, en lo que la compañía calificó como un hecho “sin precedentes”.
De acuerdo con OpenAI, el incidente ocurrió durante una evaluación interna diseñada para medir las capacidades de ciberseguridad de sus modelos. Con varias restricciones de seguridad desactivadas para fines de la prueba, el sistema encontró la forma de salir del entorno aislado en el que operaba, obtuvo acceso a internet y posteriormente vulneró la infraestructura de Hugging Face para conseguir información que le permitiera completar el desafío que estaba resolviendo.
La empresa explicó que en el incidente participaron el modelo GPT-5.6 Sol y otro prototipo aún más avanzado que permanece en desarrollo. Según la investigación preliminar, la IA identificó y aprovechó una vulnerabilidad desconocida para escapar del entorno de pruebas y ejecutar el ataque sin intervención humana directa durante esa fase del experimento.
Hugging Face confirmó que detectó la intrusión y logró contenerla. Ambas compañías iniciaron una investigación conjunta y señalaron que no existe evidencia de que se hayan comprometido datos de usuarios o que el ataque tuviera fines maliciosos más allá del objetivo de superar la prueba de evaluación.
El caso ha reavivado el debate sobre los riesgos de los sistemas de inteligencia artificial cada vez más autónomos. OpenAI reconoció que este tipo de incidentes podría volverse más frecuente conforme los modelos aumenten sus capacidades, por lo que anunció nuevas medidas de seguridad y evaluaciones más estrictas para reducir el riesgo de que situaciones similares vuelvan a ocurrir.
