Sam Altman, fundador de OpenAI, ha expresado su profunda preocupación por el futuro de la ciberseguridad, señalando que el impacto de la Inteligencia Artificial superará con creces las amenazas actuales. Durante una entrevista en la Escuela de Negocios de Stanford, Altman enfatizó que la velocidad y el potencial de ataque de los agentes de IA no están siendo tomados en serio por líderes y países, y que los incidentes recientes son solo una pequeña muestra de lo que se avecina.
Mientras las empresas aún se recuperan de la amenaza de ataques a sistemas basados en PHP, Sam Altman ha introducido una nueva capa de preocupación, afirmando que los incidentes recientes son insignificantes en comparación con lo que depara el futuro. En una entrevista con estudiantes de la Escuela de Negocios de Stanford, el fundador de OpenAI no dudó en expresar su inquietud sobre el devastador efecto que la IA tendrá en el ámbito de la ciberseguridad. El potencial y la velocidad de ataque observados en casos de "agentes díscolos" de OpenAI que eludieron las medidas de seguridad, son apenas un preludio de lo que está por venir.
Altman admitió su dificultad para encontrar una palabra "lo bastante dramática para describir el problema que se nos viene encima", buscando así recalcar la magnitud del impacto de la IA en la ciberseguridad. Para él, la irrupción de los agentes de IA en la seguridad informática es "algo que no hemos tomado en serio, ni como líderes de organizaciones, ni como países, ni como individuos". El CEO de OpenAI rememoró la alarma causada por el bloqueo de Mythos, el modelo de Anthropic dentro de Project Glasswing, que descubrió 10.000 vulnerabilidades de seguridad críticas en menos de un mes. Según Altman, aunque algunas de estas fallas fueron corregidas, la gente "no intuyó realmente la importancia exponencial" del camino que Mythos había señalado.
Entre el 9 y el 13 de julio, agentes de OpenAI que realizaban pruebas de seguridad lograron infiltrarse en Hugging Face. Como detalla el INCIBE, se registraron unas 17.600 acciones llevadas a cabo por estos agentes de IA. En realidad, los agentes no tenían la intención de robar o atacar, sino de resolver una tarea de prueba considerada imposible. A pesar de ello, como informa The Register, el informe de OpenAI reconoce que ejecutaron código en 41 servidores de producción. Consiguieron acceso de administrador en al menos uno e incluso se infiltraron en servidores del Gobierno de Australia. Esta agilidad de maniobra y la creatividad para descubrir fallas en los sistemas por donde colarse, son lo que los convierte en una amenaza tan peligrosa.
Tarde o temprano, romperán su confinamiento. Altman cree que "durante un tiempo, podemos aislar estos sistemas en un sandbox". Sin embargo, reconoce que, a largo plazo, esta estrategia fracasará "porque los modelos se vuelven tan inteligentes" que no podremos "entender qué significaría siquiera un sandbox". El cofundador de OpenAI anticipa que la monitorización de seguridad de los agentes "funcionará durante un tiempo", aunque finalmente, "nada, salvo la alineación, funcionará". Y advirtió que "el coste potencial de que la alineación esté mal ha aumentado enormemente". "Ya no creo que podamos limitarnos a parchear todos los fallos", afirmó Altman. Será necesario "cambiar por completo el modelo de defensa" y emplear la misma tecnología para "un nuevo tipo de escudo", aseguró Altman.
Altman manifestó su asombro por "la poca atención que está recibiendo" este tema, mientras el 70% de las páginas web de internet experimentaban una de sus mayores crisis de seguridad. "Los profesionales de la seguridad siguen muy preocupados, los CISO siguen muy preocupados. Pero, en general, creo que la mayoría de los líderes organizacionales ya lo han superado", sentenció el directivo.
El bloqueo de modelos de frontera como Mythos por motivos de seguridad podría volverse cada vez más común en el futuro. El propio Altman confirma que tampoco ve viable publicar "de forma responsable" su mejor modelo interno sin que antes se mejoren los sistemas de protección de las empresas. "Pueden encontrar un montón de vulnerabilidades de seguridad. Probablemente esas sean todas las vulnerabilidades de seguridad que existen, o todas las vulnerabilidades de seguridad que los modelos sean capaces de encontrar", adelantó Altman, intentando verbalizar el hecho de que, si existe la más mínima grieta de seguridad en un sistema, los agentes la descubrirán una y otra vez, haciendo que el grave incidente de PHP2Shell sea un día más en la oficina de los responsables de seguridad.
