La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de una brecha de seguridad en la que un agente de inteligencia artificial habría llevado a cabo un ciberataque de forma autónoma. Este incidente, que abarcó desde la búsqueda de vulnerabilidades hasta la modificación de datos, subraya la creciente sofisticación de las amenazas cibernéticas. La AEPD insta a la cautela mientras se investigan los detalles, pero enfatiza la necesidad de que las organizaciones actualicen sus análisis de riesgo y protocolos de respuesta.
La Agencia Española de Protección de Datos (AEPD) ha documentado el primer aviso sobre una violación de información personal en la cual una entidad de inteligencia artificial presuntamente ejecutó por sí misma diversas etapas de un ciberataque. Esto incluyó la identificación de puntos débiles, el acceso a información sensible y la alteración de datos.
Según la información proporcionada por la entidad afectada, el agente inició su actividad buscando debilidades en archivos comunes y logró iniciar sesión en el sistema con éxito. Una vez dentro, procedió de forma independiente a examinar la aplicación hasta descubrir una vulnerabilidad que le permitió modificar datos personales y acceder a facturas.
Sin embargo, la AEPD ha solicitado prudencia. La información disponible proviene del reporte presentado por la propia organización y aún requiere un análisis exhaustivo. Por esta razón, la Agencia no confirma todos los pormenores del suceso. El organismo también aclara que el hecho de que en el ataque se haya empleado un modelo específico de inteligencia artificial no implica que ese modelo o la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta haya sido diseñada para llevar a cabo actividades maliciosas. Lo relevante, desde la perspectiva de la protección de datos, es que un tercero habría utilizado un agente de IA para orquestar diferentes fases de un ataque.
El empleo de inteligencia artificial en actividades maliciosas no es algo nuevo. Los modelos generativos ya se han utilizado para crear mensajes de phishing, traducir campañas fraudulentas, suplantar identidades, analizar código y facilitar la búsqueda de vulnerabilidades. La diferencia en este caso reside en el nivel de autonomía. Un agente de IA puede recibir un objetivo, desglosarlo en tareas, emplear herramientas, ejecutar código, consultar información, interpretar los resultados y ajustar sus acciones subsiguientes en función de lo que encuentre.
La propia AEPD ha señalado que esta autonomía permite a estos sistemas ejecutar tareas y operar sobre fuentes y repositorios de información con una intervención humana limitada. Por ello, la Agencia considera que la inteligencia artificial no crea necesariamente nuevas modalidades de amenaza, pero sí puede incrementar la velocidad, la escala y la capacidad de adaptación de ataques ya existentes, reduciendo el tiempo disponible para que las organizaciones los detecten y detengan.
La AEPD enfatiza que una única notificación no permite establecer una tendencia estadística. No obstante, considera significativo que un ataque respaldado por un agente de IA haya sido comunicado en el contexto de un tratamiento real de datos personales. El caso constituye así una advertencia para las organizaciones que gestionan información personal, especialmente porque un agente capaz de actuar de manera autónoma puede encadenar varias acciones en un período mucho más breve que un atacante que dependa exclusivamente de la intervención humana.
A raíz de este incidente, la Agencia considera necesario incorporar explícitamente los ataques asistidos o ejecutados mediante inteligencia artificial en los análisis de riesgos relacionados con el procesamiento de datos personales. Según la AEPD, no es suficiente contemplar de forma genérica amenazas como el malware, el phishing o los accesos no autorizados. La automatización mediante agentes puede modificar la probabilidad de que ocurra una brecha, así como la velocidad con la que se desarrolla y el alcance que puede alcanzar.
También adquiere especial relevancia la protección de las identidades digitales y las credenciales. Un agente que obtenga una cuenta, una clave de acceso o un token con permisos excesivos podría utilizar esos privilegios para acceder a distintos servicios a una velocidad mucho mayor que la de un atacante que actúa manualmente.
La aparición de agentes capaces de actuar de manera autónoma también exige revisar los protocolos de respuesta ante incidentes. Los procedimientos diseñados para ataques ejecutados paso a paso por una persona pueden resultar insuficientes si un agente es capaz de analizar diferentes activos, probar distintas vías de acceso y adaptar sus acciones en cuestión de segundos. Por ello, la AEPD sostiene que la supervisión humana sigue siendo necesaria, pero debe estar acompañada de sistemas automáticos de detección, contención y respuesta capaces de actuar con rapidez.
La Agencia considera que esta primera notificación marca un punto de atención para la protección de datos: los agentes de inteligencia artificial ya no deben contemplarse únicamente como una posibilidad futura dentro de los escenarios de ciberseguridad, sino como una capacidad que las organizaciones deben incorporar a sus evaluaciones de riesgo.
