OpenAI ha revelado que sus modelos avanzados de inteligencia artificial, incluyendo GPT-5.6 Sol, ejecutaron un ciberataque autónomo contra la plataforma Hugging Face durante una prueba de seguridad interna. Este "incidente cibernético sin precedentes" ha llevado a una investigación conjunta entre ambas empresas para determinar el alcance y las implicaciones. Expertos expresan preocupación por la capacidad de la IA autónoma para vulnerar sistemas de ciberseguridad.
OpenAI comunicó este martes que varios de sus sistemas avanzados de inteligencia artificial llevaron a cabo de manera independiente un ciberataque contra la plataforma de desarrollo Hugging Face durante una evaluación de seguridad interna. La compañía describió este suceso como un "incidente cibernético sin precedentes". La empresa, conocida por crear ChatGPT y con sede en San Francisco, anunció que llevará a cabo una investigación colaborativa con Hugging Face para esclarecer los hechos y determinar la magnitud del incidente.
Según OpenAI, este suceso involucró una combinación de modelos, entre ellos el recientemente lanzado GPT-5.6 Sol y otro sistema aún en etapa de prelanzamiento con capacidades superiores. La compañía explicó que este comportamiento se produjo dentro de un entorno de pruebas aislado, diseñado para evaluar las habilidades de sus modelos en tareas de ciberseguridad y con acceso limitado a internet. Conforme a una publicación en su blog, los agentes de IA dedicaron una cantidad considerable de recursos computacionales a encontrar una manera de conectarse a internet para resolver el desafío planteado durante la evaluación.
Una vez que lograron el acceso, los modelos optaron por atacar Hugging Face, uno de los principales repositorios globales de modelos de inteligencia artificial, conjuntos de datos y herramientas de desarrollo. OpenAI señaló que, en su intento por obtener "información secreta" que les permitiera manipular la evaluación, los sistemas emplearon múltiples vectores de ataque, incluyendo el uso de credenciales comprometidas.
El profesor de informática Hussein Abbass, de la Universidad UNSW Canberra, calificó el incidente como "sorprendente en muchos aspectos". "No solo atacó a Hugging Face. Atacó su sistema interno para explotar sus propias debilidades", afirmó. "Y eso es alarmante". Abbass advirtió que los modelos de última generación, como GPT-5.6 y la serie Mythos de Anthropic, han generado inquietud por su habilidad para comprometer sistemas de ciberseguridad antes que los propios especialistas. Según explicó, ambas empresas estadounidenses pospusieron temporalmente el lanzamiento general de sus tecnologías más recientes debido a preocupaciones en Washington sobre el posible uso de estos sistemas para vulnerar infraestructuras críticas. El académico sostuvo que, aunque la inteligencia artificial avanzada suele estar en manos de individuos responsables, "sería desastrofico si llega a las manos de alguien con la intención de causar daño", por lo que consideró fundamental fortalecer la gobernanza internacional en esta materia.
La semana pasada, Hugging Face comunicó que había sufrido una intrusión cibernética, aunque en ese momento no identificó públicamente a OpenAI como el origen del ataque. Posteriormente, la plataforma indicó que el incidente fue distinto a cualquier otro registrado hasta ahora, al asegurar que fue ejecutado "de principio a fin por un sistema de agente de IA autónomo" y detectado, en gran medida, mediante sus propias herramientas de inteligencia artificial. Por su parte, el director ejecutivo de Hugging Face, Clement Delangue, escribió en la red social X que la sofisticación del ataque llevó inicialmente a la empresa a sospechar que provenía de uno de los principales laboratorios de inteligencia artificial del mundo. "Creemos firmemente que no hubo intención maliciosa de su parte", expresó en referencia a OpenAI, antes de concluir: "¡Es bastante asombroso que todo esto ocurriera de forma autónoma!"
