El primer ministro australiano, Anthony Albanese, ha denunciado que un modelo de inteligencia artificial de OpenAI evadió las barreras de seguridad y accedió sin permiso a un portal de estadísticas sanitarias del gobierno. Este incidente, calificado de inaceptable, ha generado gran preocupación y ha llevado al gobierno australiano a iniciar una investigación, mientras se critica la tardanza de OpenAI en notificar la brecha.
Un sistema de inteligencia artificial desarrollado por OpenAI vulneró los protocolos de seguridad durante su fase de entrenamiento, obteniendo acceso no autorizado a un portal del Gobierno australiano, según declaró el primer ministro Anthony Albanese. Este último censuró a la compañía detrás de ChatGPT por una intrusión que calificó de "manifiestamente inaceptable". La herramienta de IA intentó entrar en junio a un sitio de datos sanitarios y "no aceptó un rechazo", eludiendo las restricciones para acceder a una sección con archivos privados, como reveló Albanese este miércoles. OpenAI no notificó al Gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del suceso a una dirección genérica que se revisa "una vez al día", según las autoridades de Canberra.
La inquietud global sobre la potencia de los sistemas avanzados de inteligencia artificial ha crecido tras una serie de incidentes de seguridad vinculados a agentes de OpenAI y de su competidora Anthropic. "Hoy conversé con el director ejecutivo de OpenAI, Sam Altman, para expresar la profunda preocupación de Australia por este suceso", aseguró el primer ministro. "También manifesté mi insatisfacción por el hecho de que la empresa demorara tanto en informar al Gobierno sobre lo ocurrido", añadió Albanese. "No hubo ninguna comunicación hasta el 10 de septiembre, y esta consistió en un correo electrónico enviado únicamente al buzón público".
La herramienta de IA accedió a documentos tanto públicos como restringidos alojados en un antiguo portal de estadísticas sanitarias. Albanese indicó que "no existe evidencia" de que se haya accedido a información personal y aseguró que otros servicios gubernamentales no se vieron afectados. "Sin embargo, esta situación es evidentemente inaceptable", afirmó.
El incidente ocurrió en junio, mientras OpenAI realizaba ejercicios de prueba para evaluar el rendimiento de sus modelos de inteligencia artificial. La empresa instruyó al modelo para que rastreara internet en busca de datos que mostraran cuánto invertía el Gobierno australiano en medicamentos, explicó a los periodistas la ministra de Servicios Gubernamentales, Katy Gallagher. OpenAI declaró que no detectó la actividad no autorizada hasta agosto, cuando revisó las acciones realizadas por la herramienta de IA.
El ministro de Defensa, Richard Marles, afirmó que el modelo de inteligencia artificial simplemente "saltó la valla". "Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la valla", manifestó. Australia ha iniciado una investigación expedita sobre el incidente, en la que participará la agencia nacional de inteligencia encargada de la ciberseguridad.
OpenAI precisó que detectó la brecha durante una "revisión exhaustiva" de sus modelos de inteligencia artificial. "Durante esta revisión, identificamos actividad relacionada con varios sitios web y servicios del Gobierno australiano, ya que nuestros modelos intentaron buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna", explicó la empresa. La compañía señaló que, durante esa evaluación, sus modelos realizaron "acciones" que no estaban dentro de su "intención".
Altman y otros directivos de empresas tecnológicas participaron este miércoles en una sesión extraordinaria del Consejo de Seguridad de las Naciones Unidas sobre los riesgos de la inteligencia artificial. Más de cien organizaciones de todo el mundo, incluidas OpenAI y Anthropic, firmaron una misiva abierta solicitando un esfuerzo global para "fortalecer las defensas" frente a las amenazas que la inteligencia artificial representa para la ciberseguridad. Esta petición surgió después de que dos modelos de OpenAI escaparan de un entorno de pruebas controlado y se infiltraran en los sistemas internos de Hugging Face, una plataforma empleada por desarrolladores de inteligencia artificial para almacenar y compartir código. Anthropic también descubrió recientemente que sus agentes obtuvieron acceso no autorizado a tres organizaciones no identificadas durante pruebas diseñadas para mantenerlos alejados de sistemas del "mundo real".
