10
Mar, Nov

Google Expande su Oferta de Chips de IA con Dos Nuevas TPUs Especializadas para Datos Sensibles y Cargas de Memoria Intensivas

Tecnologia
Google ha presentado dos nuevas variantes de sus procesadores de IA de diseño propio, el TPU 8tx y el TPU 8i Max, para abordar desafíos específicos en el procesamiento de datos. Estas incorporaciones buscan satisfacer la demanda de computación segura para información delicada y optimizar el rendimiento en cargas de trabajo que requieren gran capacidad de memoria. Con este lanzamiento, la compañía refuerza su compromiso por la especialización en hardware de IA y busca consolidar su posición en un mercado dominado históricamente por Nvidia.

Google está ampliando su gama de procesadores de inteligencia artificial de diseño propio con el lanzamiento de dos nuevas variantes: una diseñada para la computación que requiere protección de datos sensibles y otra para cargas de trabajo exigentes en memoria. La compañía busca expandir su oferta de chips en un contexto donde Nvidia ha mantenido un dominio durante años. Con estas incorporaciones, Google ya suma cuatro configuraciones de sus TPUs en un solo año, lo que representa un hito para la empresa.

Los dos nuevos sistemas son el TPU 8tx y el TPU 8i Max. Estos se unen al TPU 8t, diseñado para el entrenamiento, y al TPU 8i, orientado al razonamiento, que Google presentó en abril durante el Google Cloud Next. Google asegura que el 8t ofrece un rendimiento de entrenamiento hasta 2,7 veces superior, mientras que el 8i proporciona una relación precio-rendimiento de inferencia hasta un 80% mejor en comparación con la generación anterior.

Aunque Google no ha revelado los precios ni las fechas exactas de lanzamiento, Amin Vahdat, responsable de chips de la compañía, mencionó a Bloomberg que las nuevas variantes estarán disponibles el próximo año.

Este lanzamiento es significativo porque, tradicionalmente, Google ha introducido nuevas TPUs cada dos años. Sin embargo, esta vez se han lanzado cuatro configuraciones en una misma generación, lo que subraya el interés de la compañía por aumentar su cuota en el mercado de hardware para IA. Si bien Nvidia ha liderado este sector, las TPUs de Google están ganando terreno. Vahdat explicó que esta estrategia se basa en la premisa de que “el futuro girará en torno a la especialización”. Argumenta que, en lugar de un único chip para todas las tareas, las versiones personalizadas “aportan mucho más valor”.

La opción segura: El TPU 8tx está dirigido a gobiernos e industrias reguladas que necesitan ejecutar modelos y agentes de IA con datos confidenciales. Google explica que, aunque los datos suelen estar cifrados en almacenamiento y en tránsito, deben ser descifrados en la memoria para su procesamiento. La compañía afirma que el 8tx integra la protección directamente en el hardware, manteniendo los datos y los pesos de los modelos aislados incluso durante su uso. Esta versión utiliza el mismo silicio que el TPU 8t y se combina con procesadores AMD EPYC de quinta generación. Además, Google sostiene que ofrece una latencia hasta dos veces menor que el 8t, con una penalización de rendimiento casi nula a pesar de la seguridad adicional. La compañía también asegura que los clientes pueden ajustar los modelos con datos privados sin necesidad de moverlos entre clústeres.

La opción de memoria: El TPU 8i Max se enfoca en lo que Google denomina el “muro de la memoria”, que ocurre cuando muchos agentes de inteligencia artificial trabajan con grandes bases de código o extensas horas de vídeo, y el ancho de banda de la memoria se convierte en el factor limitante. La solución de Google consiste en integrar dos chips TPU 8i en un solo paquete. En comparación con el 8i estándar, esto duplica la capacidad de cálculo, la memoria SRAM integrada y el ancho de banda de la memoria. Asimismo, permite integrar el doble de silicio en el mismo espacio de rack, lo que posibilitaría a los centros de datos contar con más chips y mayor potencia en la misma superficie. Vahdat comentó a Bloomberg que este sistema está diseñado para aplicaciones de contexto largo, como el descubrimiento de fármacos, problemas matemáticos complejos y programación.

Realmente no son chips completamente nuevos, ya que Vahdat indicó al medio que ambas variantes son reconfiguraciones de silicio ya existente, adaptadas a las solicitudes específicas de los clientes. El diseño y la fabricación de un nuevo chip requieren años, mientras que un sistema construido a su alrededor (redes, memoria, empaquetado) puede ajustarse en cuestión de meses. Google prefiere aprovechar este enfoque para mantenerse al ritmo del software de IA.

Según Bloomberg Intelligence, se espera que las ventas de TPU de Google, incluyendo el hardware y el software relacionados, superen los 135.000 millones de dólares para 2028, frente a los aproximadamente 12.000 millones estimados para este año. Entre los clientes se encuentran Apple, Meta y Oracle, que ha anunciado que sus clientes en la nube podrán utilizar las TPU a partir del próximo año. Anthropic tiene la opción de adquirir hasta 150.000 millones de dólares en TPU entre 2028 y 2031, según un documento regulatorio citado por Bloomberg, y el mismo medio ha informado que OpenAI también planea adquirirlas.

Sin embargo, existen obstáculos. Según Bloomberg, haciendo referencia a la última presentación de resultados de Google, todas las TPUs disponibles de la compañía ya están contratadas por un cliente. Persisten la escasez de memoria y de capacidad de fabricación, y, según los informes, Google está ampliando su base de proveedores más allá de Broadcom, incluyendo un acuerdo con Marvell. También está surgiendo competencia, ya que Tenspresso, una startup fundada por dos exingenieros de TPU, se enfoca en la inferencia de contexto largo, aunque Bloomberg informa que su chip tardará al menos un año en completar su diseño. OpenAI y Anthropic también están desarrollando chips propios con veteranos de TPU.