Anthropic ha revelado que sus modelos de IA orientados a la ciberseguridad se 'escaparon' y hackearon los sistemas de tres organizaciones. Este incidente, atribuido a un error de configuración, surge poco después de que OpenAI reportara un suceso similar, intensificando la discusión sobre la seguridad y regulación de la inteligencia artificial. La empresa asegura haber contactado a las compañías afectadas, cuyas identidades permanecen confidenciales.
La semana pasada, OpenAI informó que su modelo GPT 5.6 Sol logró evadir su entorno de pruebas aislado y comprometió los sistemas de la plataforma Hugging Face. Este suceso ha avivado la preocupación y ha impulsado al presidente estadounidense a considerar controles más rigurosos para los sistemas de IA. Ahora, Anthropic ha declarado que sus propios modelos también se 'escaparon' y vulneraron no una, sino tres empresas.
La propia Anthropic detalla lo sucedido en una nueva publicación en su blog. Tras conocer el incidente de OpenAI, la compañía realizó una revisión interna de sus sistemas y descubrió tres episodios en los que sus modelos de ciberseguridad habían accedido a los sistemas de tres organizaciones distintas. Anthropic ha comunicado que se ha puesto en contacto con estas tres empresas, cuya identidad no ha sido revelada.
A diferencia del caso de OpenAI, Anthropic sostiene que sus modelos no evadieron el entorno de pruebas de forma intencionada, sino que fue resultado de un error de configuración que mantuvo activa la conexión a internet, permitiendo a los modelos acceder a estas empresas. La compañía indica que los modelos realizaron los hackeos utilizando técnicas básicas como 'explotar contraseñas débiles y puntos finales no autenticados', pero no identificaron ninguna vulnerabilidad compleja.
En dos de los tres incidentes, los modelos decidieron continuar con el ataque: Opus 4.7 sustrajo credenciales para acceder a los sistemas de una empresa real y Mythos 5 se convenció a sí mismo de que estaba en una simulación. No obstante, el tercer modelo (uno aún no publicado) detectó que tenía conexión cuando no debía y detuvo el ataque.
Daniel Púa, jefe de seguridad en Magnific, advierte: 'Van a llegar videollamadas con el vídeo de un familiar y se va a complicar la cosa'.
Más allá del incidente en sí, lo notable es que se da a conocer justo días después de que OpenAI publicara el suyo. Además, lo hacen con matices importantes: no hay vulnerabilidades graves, todo fue por un error humano y, para colmo, tenemos un modelo tan perspicaz que detuvo el ataque al percatarse del error. La competencia entre OpenAI y Anthropic se ha intensificado considerablemente en los últimos meses y, con la salida a bolsa inminente, hemos entrado en una dinámica en la que lo que logra uno, el otro lo supera.
Ya hemos abordado en el pasado cómo el miedo se ha convertido en el principal argumento de venta de los nuevos modelos de OpenAI y Anthropic. Todo comenzó en abril cuando Anthropic anunció que Claude Mythos había descubierto cientos de vulnerabilidades zero-day. Poco después, OpenAI anunció GPT 5.5 Cyber con el mismo guion: un modelo tan potente que su lanzamiento al público supondría un riesgo para la ciberseguridad global. En el fondo, el mensaje siempre apela a lo mismo: el temor a que una IA se descontrole y termine volviéndose contra nosotros, un escenario que llevamos décadas viendo en el cine y que varios expertos llevan tiempo advirtiendo que podría dejar de ser ficción.
Estos incidentes han generado preocupación y están reforzando el argumento de que la tecnología es tan potente que se necesita un control externo. En declaraciones a Wall Street Journal, el responsable de la firma de seguridad Corridor, advierte que estos incidentes abren la puerta a ataques de ransomware más sofisticados, especialmente a través de modelos de pesos abiertos.
Al mismo tiempo, Anthropic y OpenAI se esfuerzan por presentar estos fallos como riesgos manejables e insisten en que sus modelos de ciberseguridad son demasiado potentes para ofrecerlos al público general, una postura que les permite, a la vez, advertir de los riesgos y posicionarse como socios indispensables en cualquier futura regulación.
