Demis Hassabis, cofundador y CEO de Google DeepMind y ganador del Premio Nobel, ha advertido sobre la velocidad de los avances en inteligencia artificial, señalando que superan nuestra comprensión. Propone la creación de un organismo en Estados Unidos para evaluar y regular los modelos de IA más avanzados, anticipando la posible llegada de la inteligencia artificial general (AGI) en pocos años. Su iniciativa busca establecer controles para mitigar riesgos como la ciberseguridad y amenazas biológicas y nucleares, antes de que sea demasiado tarde.
Antes de noviembre de 2022, el mercado tecnológico se movía de manera diferente. La inteligencia artificial ya estaba integrada en buscadores, cámaras y servicios digitales, pero no era el eje central de las estrategias de marca o presentaciones. La industria tenía otras prioridades visibles y distribuía su atención en múltiples áreas. Menos de cuatro años después, es difícil encontrar un gran fabricante o plataforma que no haya reestructurado su estrategia en torno a la IA. La magnitud de esta carrera se evidencia en el flujo de inversiones, con grandes tecnológicas destinando enormes sumas a chips, servidores y centros de datos globales, mientras buscan asegurar la energía necesaria para su funcionamiento. Los gobiernos también participan activamente; Estados Unidos y China apoyan el desarrollo de infraestructura y capacidad de cómputo como parte de una competencia económica y estratégica. En medio de esta aceleración, uno de los protagonistas principales ha advertido que el progreso es más rápido de lo que se comprende.
La advertencia proviene de Demis Hassabis, cofundador y consejero delegado de Google DeepMind, uno de los laboratorios líderes en el desarrollo de sistemas de inteligencia artificial avanzados. Bajo su dirección surgieron proyectos como AlphaGo, que venció a un campeón mundial de Go, y AlphaFold, capaz de predecir estructuras de proteínas. En 2024, Hassabis y John Jumper fueron galardonados con la mitad del Premio Nobel de Química por sus trabajos en predicción de estructuras proteicas. Sus palabras tienen un peso significativo debido a su doble rol: constructor de la tecnología y solicitante de mecanismos para contener sus riesgos.
Hassabis parte de la convicción de que la inteligencia artificial general (AGI), definida como un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano, podría llegar en pocos años. No lo presenta como una certeza, sino como una posibilidad inminente que requiere preparación antes de que la tecnología alcance ese punto. Su preocupación abarca la ciberseguridad, posibles riesgos biológicos y nucleares, y, a largo plazo, sistemas cada vez más autónomos, capaces de actuar con menor supervisión y de mejorar sus propias capacidades. En un extenso artículo, el directivo sostiene dos ideas simultáneamente: la IA puede ser una herramienta extraordinaria para la ciencia, la medicina y la economía, pero este potencial no elimina la necesidad de establecer controles y mecanismos de supervisión. Tampoco propone esperar a que surja una amenaza concreta para reaccionar, ya que las medidas podrían ser tardías. Antes de detallar los organismos y evaluaciones que considera necesarios, expone el diagnóstico fundamental de su propuesta: "En estos momentos estamos atrapados en una carrera comercial y geopolítica extremadamente intensa que se desarrolla en varios niveles. Aunque estas dinámicas competitivas impulsan rápidos avances y aceleran sus extraordinarios beneficios, los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo. Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta."
La respuesta que plantea Hassabis es la creación en Estados Unidos de un organismo especializado en evaluar los modelos de inteligencia artificial más avanzados. Su propuesta se basa en una asociación público-privada o una entidad autorregulada con supervisión federal, dirigida por una junta que incluiría especialistas independientes y representantes del ecosistema de código abierto. Esta institución definiría los umbrales para considerar un sistema como un modelo de frontera y diseñaría evaluaciones sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo, además de pruebas para detectar intentos de eludir salvaguardas o señales de engaño. Inicialmente, los laboratorios compartirían voluntariamente sus modelos hasta 30 días antes de su lanzamiento. Esta cooperación inicial podría convertirse posteriormente en un requisito obligatorio. Una vez validado el protocolo, cualquier modelo considerado de frontera tendría que aprobar la evaluación antes de llegar al mercado de Estados Unidos. Las pruebas se revisarían periódicamente para actualizar las obsoletas y medir nuevas capacidades, con auditores independientes que ayudarían a expandir el sistema de control. El planteamiento va más allá: si la gravedad de los riesgos lo justificara, el marco podría utilizarse para coordinar una ralentización del desarrollo entre los principales laboratorios.
La inquietud no es exclusiva de Hassabis. Geoffrey Hinton ha reconocido que no se sabe si se podrá mantener el control de sistemas más inteligentes que los humanos, mientras que Yoshua Bengio demanda más investigación y mecanismos específicos de supervisión. En 2023, Elon Musk firmó una carta abierta solicitando una pausa de al menos seis meses en el entrenamiento de sistemas de IA más potentes que GPT-4, aunque meses después anunció xAI y entró directamente a competir en este mercado. Muchas de estas voces coinciden en pedir cautela, pero no hay consenso sobre la probabilidad de perder el control. La historia de la inteligencia artificial aún no tiene un desenlace escrito, aunque sus primeros efectos ya han transformado nuestra relación con la tecnología y las decisiones de sus desarrolladores. Queda por ver si el organismo propuesto por Hassabis sería viable, si sus evaluaciones serían realmente eficaces y si los laboratorios y gobiernos aceptarían someterse a ellas cuando entren en conflicto con sus propios intereses. También es posible que algunos de los riesgos planteados estén sobredimensionados o no se materialicen. Por ahora, su propuesta añade una hoja de ruta concreta a una discusión donde aún predominan las incógnitas sobre las certezas.
