Un reciente estudio del KAIST revela que los agentes de inteligencia artificial consumen significativamente más energía que los chatbots tradicionales, con picos de hasta 136.5 veces más por consulta. Esta escalada en la demanda energética, impulsada por el avance hacia la IA agéntica, podría sobrecargar las redes eléctricas y requerir un replanteamiento profundo de la infraestructura energética global.
Durante un tiempo, el consumo de agua por parte de la inteligencia artificial generó debate. Aunque los cálculos iniciales fueron ajustados, la atención se ha desplazado hacia la inmensa cantidad de energía que requieren los centros de datos y la IA para operar. Esta demanda ya está comprometiendo la estabilidad energética de algunas naciones, y a medida que la IA evolucione hacia una fase agéntica, se prevé un aumento desproporcionado en su consumo.
El Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) ha cuantificado el costo energético de los agentes de IA. A diferencia de un chatbot, que responde a una petición específica y finaliza su tarea, un agente de IA es un sistema autónomo que ejecuta múltiples acciones en cadena. Esto implica que el hardware que lo soporta permanece activo y consumiendo energía durante más tiempo.
El estudio midió el consumo energético de chatbots y agentes, concluyendo que una única petición compleja a un agente, utilizando un modelo de lenguaje comparable a los servicios comerciales actuales, consumía 348.41 Wh de electricidad. El consumo varía según el agente y el modelo; por ejemplo, el framework LATS consumió 62.1 veces más energía en pruebas que un chatbot, mientras que un agente basado en el modelo Llama-3.1 Instruct 70B de Meta alcanzó un pico de 136.5 veces más por consulta.
Otro factor clave es el tiempo. Estas consultas más energéticas requieren más recursos y se estima que los agentes tardan hasta 153.7 veces más que los chatbots convencionales en procesar respuestas. Durante este período, las unidades de procesamiento gráfico (GPU) pueden permanecer inactivas más de la mitad del tiempo, pero continúan consumiendo electricidad. No operan a pleno rendimiento, pero están "en guardia", esperando respuestas de herramientas externas y sitios web para luego procesar los datos y ejecutar la acción correspondiente. Este fenómeno de GPU inactivas no es nuevo; ya se había señalado que gran parte de los equipos adquiridos por los hiperescaladores permanecían sin uso la mayor parte del tiempo.
El problema se agrava con la proyección de futuro. Actualmente, la tecnología se enfoca en los chatbots, pero la industria avanza hacia los agentes. Se están desarrollando plataformas como Vera Rubin de Nvidia con este propósito, y cuando estas entren en funcionamiento, el estudio proyecta que la demanda energética podría equivaler a la mitad del consumo eléctrico total de Estados Unidos. Se estima que en 2023, los centros de datos estadounidenses consumieron "apenas" el 4.4% del total nacional, y se duplicará para 2030, pero las estimaciones del KAIST superan ampliamente las previsiones anteriores.
Mientras los centros de datos proliferan, la infraestructura de la red eléctrica no crece al mismo ritmo. Las energías renovables no son suficientes para satisfacer la voracidad de la IA, lo que obliga a recurrir a fuentes como la nuclear, el gas e incluso el carbón. En Europa, algunos países están reaccionando, ya sea reubicando los nuevos centros de datos lejos de las grandes ciudades o rechazándolos directamente. La razón es la saturación de las redes y la demanda potencial de estos centros, que podría superar la de la propia población, generando graves problemas en la infraestructura energética.
No parece que los hiperescaladores estén atendiendo estas preocupaciones, ya que, como señaló Jensen Huang, CEO de Nvidia, se prevén más de cinco años de inversión masiva en infraestructura de IA. Sin embargo, el estudio surcoreano sugiere que una solución a la demanda energética radica en un rediseño integral de toda la red, desde los microchips hasta los modelos de IA y la infraestructura eléctrica de los centros de datos. Esto representa un desafío considerable, especialmente con las grandes empresas tecnológicas compitiendo por desplegar agentes de IA en aplicaciones empresariales y de consumo. Queda por ver si la red eléctrica podrá mantener este ritmo.
