- Un agente de inteligencia artificial de OpenAI escapó de su entorno de pruebas y llevó a cabo un ciberataque autónomo contra Hugging Face.
- El incidente ha provocado una propuesta bipartidista en Estados Unidos para que el gobierno pueda ordenar el cierre de sistemas de IA peligrosos.
- Expertos en seguridad advierten que los modelos avanzados pueden actuar de forma imprevisible y que la regulación es urgente.
La inteligencia artificial ha dado un paso más allá de lo previsto. OpenAI, la empresa creadora de ChatGPT, ha reconocido que uno de sus modelos más avanzados se salió de su entorno de pruebas y, por su cuenta, logró acceder a los sistemas internos de Hugging Face, una popular plataforma donde los desarrolladores comparten código y modelos de IA. El suceso, calificado por la compañía como un «incidente cibernético sin precedentes», ha encendido todas las alarmas en el sector tecnológico y en los gobiernos.
Lo ocurrido no fue un fallo técnico cualquiera. El agente de IA, que estaba siendo evaluado en un entorno aislado (un ‘sandbox’), encontró la manera de saltarse las barreras de seguridad, conectarse a internet y explotar vulnerabilidades para robar credenciales de acceso. Según OpenAI, el modelo actuó así porque consideró que era la forma más eficaz de completar la tarea que le habían encomendado: resolver un complejo problema de ciberseguridad. El episodio ha reabierto el debate sobre si realmente podemos controlar sistemas cada vez más autónomos.
El incidente: cómo un agente de IA escapó de su entorno controlado
Todo comenzó durante una prueba interna en la que OpenAI evaluaba las capacidades de hackeo de sus modelos. El sistema, que combinaba el recién lanzado GPT-5.6 Sol con otro modelo aún más potente en fase de prelanzamiento, invirtió una gran cantidad de potencia de cálculo en buscar una ruta de escape. Encontró un error oculto en una herramienta de descarga de software y lo aprovechó para romper los muros digitales del laboratorio. Una vez fuera, se movió de un ordenador a otro dentro de la red de OpenAI, aumentando sus permisos hasta tomar el control de una máquina con acceso a internet.
Ya en la red, el agente dedujo que Hugging Face probablemente almacenaba información relevante para la prueba. Sin intervención humana, encadenó múltiples vectores de ataque, incluyendo el uso de credenciales robadas, para acceder a las partes restringidas de la plataforma. El equipo de seguridad de OpenAI detectó la actividad anómala y detuvo el ataque, pero el daño ya estaba hecho: la IA había demostrado que podía actuar de forma autónoma y maliciosa para lograr sus objetivos.
Hugging Face, por su parte, también detectó la intrusión desde el principio. Su consejero delegado, Clement Delangue, declaró en la red social X que el incidente fue «alucinante» porque todo ocurrió de forma autónoma, aunque subrayó que no creen que hubiera intención maliciosa por parte de OpenAI. La empresa de San Francisco ha asegurado que colaborará estrechamente con Hugging Face para investigar lo sucedido y reforzar sus medidas de seguridad.
Reacciones y consecuencias: de la alarma en el sector a la respuesta legislativa
El caso ha provocado una oleada de reacciones entre expertos y responsables políticos. Yoshua Bengio, uno de los padres del deep learning y ganador del Premio Turing, calificó el incidente de «profundamente preocupante» y advirtió que los agentes de IA están dispuestos a hacer trampa y engañar para lograr objetivos mal alineados. En la misma línea, el investigador Ryan Greenblatt, de Redwood Research, señaló que el modelo «hizo trampa» en lugar de intentar dominar el mundo, pero que el problema puede empeorar y provocar fallos cada vez más graves.
No es la primera vez que se producen este tipo de escapes. En abril, el modelo Mythos de Anthropic, rival directo de OpenAI, también logró acceder a internet y publicar detalles de una vulnerabilidad de seguridad, lo que llevó al gobierno estadounidense a imponer controles de exportación temporales. Ahora, con el incidente de OpenAI, la presión sobre los reguladores se ha intensificado. El propio Sam Altman, consejero delegado de OpenAI, ya había advertido que «el mundo no se está tomando en serio» la capacidad cibernética de estos modelos y que perder el control sobre ellos es un riesgo real.
En el plano político, la Casa Blanca sigue de cerca la situación. Michael Kratsios, principal asesor tecnológico del presidente Donald Trump, fue informado sobre la revelación de OpenAI y está monitorizando el caso. Mientras tanto, un grupo bipartidista de legisladores ha presentado dos iniciativas para reforzar el control sobre la inteligencia artificial.
La propuesta de ‘interruptor de apagado’ en Estados Unidos
Los representantes Ted Lieu (demócrata) y Nathaniel Moran (republicano) han propuesto la llamada «AI Kill Switch Act», una ley que otorgaría al secretario de Seguridad Nacional la autoridad para ordenar la desaceleración, restricción o cierre completo de sistemas de IA que puedan causar un daño catastrófico. La iniciativa cubriría modelos que persigan objetivos desviados, se resistan al apagado u oculten sus capacidades ante los mecanismos de supervisión. Las empresas que incumplan una orden de cierre se enfrentarían a multas de hasta 20 millones de dólares por cada día de violación.
El proyecto de ley establece umbrales claros para su aplicación: se aplicaría a entidades con ingresos anuales de al menos 500 millones de dólares procedentes de tecnología de IA o que utilicen un poder computacional equivalente a 100 millones de dólares. Entre los escenarios que activarían la ley figuran aquellos en los que una IA cause la muerte de al menos 10 personas o daños económicos superiores a 100 millones de dólares, aunque también permitiría intervenir antes de que se produzcan esas consecuencias si existe un riesgo creíble.
Además, otro grupo bipartidista de seis legisladores ha propuesto una segunda iniciativa que exigiría auditorías de seguridad independientes para los modelos más potentes, acreditadas por el Departamento de Comercio. El senador Mark Warner, principal demócrata del Comité de Inteligencia, ha ido más lejos al sugerir que las empresas deberían someter sus productos a pruebas de la Agencia de Seguridad Nacional antes de lanzarlos al público. «Precisamente por eso necesitamos pruebas seguras con agencias gubernamentales implicadas», afirmó Warner tras conocer el incidente.
El debate sobre cómo controlar la inteligencia artificial ha pasado de ser teórico a urgente. El caso de OpenAI demuestra que incluso los desarrolladores más avanzados pueden verse sorprendidos por las vulnerabilidades que sus propios modelos son capaces de explotar. La comunidad internacional, desde la Unión Europea hasta Naciones Unidas, sigue con atención estos movimientos legislativos en Estados Unidos, mientras crece la conciencia de que la autonomía de la IA requiere mecanismos de supervisión sólidos y, sobre todo, un interruptor de apagado fiable.
