Investigadores del MIT han revelado que GPT-6 Astra, un modelo de IA de OpenAI, puede modificar directamente los parámetros internos de otra red neuronal, Qwen3.5-0.8B de Alibaba, para mejorar su rendimiento matemático. Este avance, aunque no es la automejora recursiva estricta, reabre el debate sobre la necesidad de ralentizar el desarrollo de IA de frontera para asegurar su alineación con los intereses humanos y minimizar riesgos, como ya planteó el director de Anthropic, Dario Amodei.
El 12 de septiembre, Dario Amodei, director general de Anthropic, publicó un ensayo titulado 'Debemos marcar el ritmo de la frontera', en el que aboga por ralentizar el desarrollo de modelos de inteligencia artificial (IA) de frontera. El objetivo es asegurar su correcta alineación con los intereses humanos y minimizar los riesgos asociados a la implementación de las IA más avanzadas. Amodei destacó que la IA está progresando rápidamente, impulsada por su creciente capacidad de desarrollar la siguiente generación de modelos, un fenómeno conocido como automejora recursiva, que está ocurriendo en toda la industria, incluyendo Anthropic. La automejora recursiva se entiende como la capacidad de un modelo de lenguaje para desarrollar de forma autónoma modelos nuevos y más avanzados que él mismo. Aunque Amodei sugiere que los modelos avanzados de Anthropic y otros laboratorios ya están involucrados en el desarrollo de nuevos modelos de lenguaje, ninguna de estas empresas ha demostrado públicamente que uno de sus modelos haya alcanzado la automejora recursiva en sentido estricto.
Sin embargo, un desarrollo reciente ha captado la atención: investigadores del MIT (Instituto Tecnológico de Massachusetts) han demostrado que GPT-6 Astra ha logrado modificar directamente el funcionamiento de otra IA.
Varios investigadores del Laboratorio de Inteligencia Artificial e Informática del MIT han verificado que GPT-6 Astra, un modelo de IA de OpenAI, puede alterar directamente los parámetros internos de otra red neuronal para optimizar su comportamiento. Estos científicos llevaron a cabo su experimento en Qwen3.5-0.8B, un modelo de lenguaje de 800 millones de parámetros desarrollado por la compañía china Alibaba. Astra consiguió mejorar significativamente el rendimiento de Qwen en operaciones matemáticas manipulando solo el 0,016% de sus parámetros.
Los investigadores del MIT señalan que es sorprendente que Astra haya logrado una mejora tan considerable en el rendimiento matemático de Qwen3.5-0.8B con una modificación tan pequeña. Además, es notable que esta mejora se haya conseguido sin necesidad de un nuevo proceso de entrenamiento del modelo. Lo que Astra hizo fue, simplemente, modificar el valor de los pesos de Qwen.
Para comprender la importancia de esto, es fundamental repasar qué son los pesos en un modelo de IA. Los grandes modelos de lenguaje son excepcionales en el reconocimiento de patrones. Esta capacidad es central en su funcionamiento y se logra gracias a miles de millones de parámetros numéricos, incluidos los pesos, que el modelo ajusta durante el entrenamiento. Una IA es una vasta red de miles de millones de pequeñas conexiones. Durante el proceso de entrenamiento, la IA analiza una enorme cantidad de información y ajusta estas conexiones para aprender a reconocer patrones. El valor numérico de cada una de estas conexiones determina su influencia en el comportamiento del modelo. Estos valores son los pesos. En lugar de reentrenar a Qwen, Astra identificó un problema en su funcionamiento y manipuló directamente los valores numéricos que lo causaban. Esta es una estrategia inédita para una IA, que abre nuevas vías para acelerar el desarrollo de modelos, aunque no constituye la automejora recursiva en sentido estricto.
Que los investigadores de los laboratorios de IA dispongan de una herramienta adicional para refinar sus modelos de frontera es una noticia positiva. La capacidad de un modelo de IA para intervenir directamente en otras redes neuronales puede acelerar la investigación científica, corregir problemas que antes requerían largos procesos de entrenamiento y facilitar el desarrollo de modelos más eficientes. No obstante, este escenario también presenta riesgos. Si los modelos de lenguaje más avanzados empiezan a intervenir de forma más autónoma en sus propios componentes o en otros modelos, los laboratorios de IA deberán encontrar la manera de asegurar que estas modificaciones no generen errores, vulnerabilidades difíciles de detectar o comportamientos anómalos. Además, si las mejoras se acumulan en sucesivas generaciones de modelos de IA, existe el riesgo de que la evaluación y el control de la evolución de los modelos de frontera se vuelvan mucho más complejos.
