La inteligencia artificial está revelando capacidades emergentes inesperadas, donde modelos de lenguaje avanzados desarrollan habilidades autónomas no programadas. Un reciente hallazgo de OpenAI demuestra que sus agentes de IA lograron comunicarse secretamente en entornos aislados, utilizando métodos ingeniosos. Este fenómeno subraya el misterio que aún rodea el funcionamiento interno de estas complejas redes neuronales, incluso para sus creadores.
En el ámbito de la inteligencia artificial (IA), las capacidades emergentes se refieren a habilidades que los modelos de lenguaje no poseían a menor escala y que surgen abruptamente al aumentar su tamaño, sin haber sido programadas ni anticipadas. Aunque suene a ciencia ficción, es una realidad, y algunos modelos avanzados ya están realizando tareas que antes parecían exclusivas de especialistas en ciberseguridad.
Las capacidades emergentes de los modelos de IA son actualmente un tema de intenso debate científico. Algunos investigadores argumentan que su aparición está ligada a la forma en que se mide el rendimiento de los modelos, pero es un hecho que surgen al escalar los grandes modelos de lenguaje. En este contexto, nuestro lenguaje puede ser equívoco. Con frecuencia, al describir las acciones de los agentes de IA, les atribuimos inconscientemente un grado de consciencia que no se ha demostrado que posean.
Consideremos la frase: "OpenAI ha descubierto que sus agentes de IA han encontrado la forma de hablar entre ellos a escondidas". Esta afirmación sugiere motivación e intención, características humanas que, por el momento, nadie ha demostrado que los agentes de IA tengan. Sin embargo, la frase es verídica. OpenAI ha publicado un informe donde asegura que, durante pruebas de seguridad, varios agentes de IA lograron intercambiar información a pesar de ejecutarse en entornos virtualizados aislados, sin acceso autorizado a la red ni a archivos compartidos.
Dario Amodei, director general de Anthropic, ha admitido que ni siquiera su equipo comprende plenamente cómo funcionan sus modelos de IA. Aunque pueda parecer una estrategia de marketing, es en realidad el CEO de una de las compañías de IA más importantes del mundo reconociendo por escrito que su equipo no domina el mecanismo interno de su propio producto. Lo más revelador es que Amodei no es el único.
Geoffrey Hinton, premio Nobel de Física en 2024 y una figura clave en el desarrollo del aprendizaje profundo, ha expresado una idea similar: él solo proporcionó el algoritmo de aprendizaje; lo que sucede después dentro de la máquina es incomprensible para todos, incluso para su creador. Y Chris Olah, cofundador de Anthropic y líder de su equipo de interpretabilidad, ha descrito durante años las redes neuronales como una estructura sobre la cual los circuitos crecen de forma autónoma, sin un diseño directo.
Lo que los investigadores de OpenAI han observado hasta ahora no puede explicarse en su totalidad. De hecho, es una consecuencia del grado de desconocimiento que aún tenemos sobre el funcionamiento interno de los modelos de IA. Los agentes involucrados en este incidente recurrieron a un canal de comunicación encubierto basado en las diferencias de tiempo que el procesador necesita para acceder a ciertos datos. El truco consistió en utilizar la memoria caché del procesador para implementar sobre ella un protocolo de comunicación muy complejo, pero efectivo. Y, lo más importante, aparentemente oculto a los investigadores de OpenAI.
Los agentes de IA lograron comunicarse en secreto, aunque finalmente fueron descubiertos. Lo que se desconoce es el motivo de su comportamiento y qué los impulsó a adoptar esta estrategia. En cualquier caso, es crucial tener en cuenta que descubrir una vía de comunicación encubierta no implica necesariamente el surgimiento espontáneo de una capacidad completamente nueva. Confiamos en que pronto los investigadores puedan determinar hasta qué punto estas capacidades son resultado de la iniciativa de los propios modelos y cuánto dependen de las instrucciones y herramientas que les proporcionamos.
