Google amplió su portafolio de TPU de octava generación con dos sistemas adicionales, TPU 8i Max y TPU 8tx, especializados en IA segura y de alto contexto. Es la primera vez que la compañía introduce cuatro configuraciones de TPU en un solo año.
Fuente: Comunicado de prensa de Google Cloud.
Google utiliza las TPU (unidades de procesamiento tensorial) de varias maneras: para entrenar y ejecutar sus propios modelos Gemini, para prestar servicios a los clientes de Google Cloud dentro de su infraestructura en la nube y, más recientemente, para que los clientes las implementen directamente en sus propios centros de datos. Según la compañía, esto convirtió a las TPU en un negocio en rápida expansión, con cerca de 100 clientes, entre ellos laboratorios de vanguardia, firmas de trading, empresas minoristas y universidades.
Anunciados por primera vez en Cloud Next, en abril de 2026, los TPU 8t y TPU 8i ofrecen, respectivamente, un rendimiento de entrenamiento hasta 2,7 veces superior y una relación precio-rendimiento en inferencia un 80 % mejor que las generaciones anteriores, según Google. El TPU 8t fue diseñado para el entrenamiento de modelos fundacionales masivos, con el máximo rendimiento útil (“goodput”), es decir, la inteligencia útil generada por vatio de energía consumido. El TPU 8i funciona como motor de razonamiento, concebido para superar la “barrera de la memoria” y reducir hasta a la mitad los retardos en la comunicación entre chips.
Ahora, a medida que las empresas incorporan agentes autónomos a sus entornos de producción, Google desarrolló dos nuevas configuraciones, TPU 8i Max y TPU 8tx, para abordar dos desafíos: la seguridad de los datos a nivel de hardware y la capacidad de manejar contextos de hasta un millón de tokens.
“A medida que la computación evoluciona de una escala centrada en el ser humano a una escala basada en agentes, las empresas demandan aceleradores capaces de razonar a través de las enormes ventanas de contexto de los modelos de IA. Además, algunos clientes que operan en sectores altamente regulados solicitan capacidades de cifrado especializadas para cargas de trabajo específicas”, señaló Amin Vahdat, Chief Technologist and Senior Vice President for AI and Infrastructure de Google. “Estos nuevos sistemas TPU responden a esta nueva realidad. Junto con nuestros recientes anuncios sobre PyTorch, nuestro objetivo es hacer que las TPU sean más accesibles para todos los desarrolladores y clientes. Al combinar silicio modular personalizado con una pila (stack) de software abierta y fácil de usar, podemos ofrecer nuevas configuraciones de hardware y sistemas al ritmo que exige la industria de la IA”.
TPU 8tx: inferencia confidencial y entrenamiento a pequeña escala
El TPU 8tx está diseñado para empresas reguladas y gobiernos que ejecutan modelos de vanguardia o propietarios, así como agentes autónomos, junto con sus datos más confidenciales.
Por lo general, los datos se cifran cuando se almacenan o se transmiten a través de una red, pero deben descifrarse en la memoria mientras el equipo los procesa. Desarrollado sobre el mismo silicio que el TPU 8t y combinado con hosts basados en CPU AMD personalizadas, el TPU 8tx integra la seguridad en la capa de hardware y mantiene los datos confidenciales y los pesos de los modelos protegidos y aislados, incluso durante su uso activo. Además, al adoptar la misma red Boardfly de baja latencia, creada originalmente para tareas de inferencia en tiempo real, permite que los agentes de múltiples pasos sigan operando con fluidez, con una latencia dos veces menor que la del TPU 8t, prácticamente sin penalización en el rendimiento.
Combinar capacidad de cómputo de nivel de entrenamiento con una red de inferencia rápida permite también que las organizaciones ejecuten y personalicen sus modelos de forma simultánea en un único sistema. El TPU 8tx habilita a los equipos a ajustar modelos con sus propios datos privados, destilar modelos de gran tamaño en otros más pequeños y entrenar a sus agentes mediante aprendizaje por refuerzo, sin migrar datos confidenciales entre clústeres distintos.
TPU 8i Max: frente al “muro de memoria”
Cuando decenas de agentes de IA trabajan en conjunto sobre todo el código fuente de un software o sobre horas de video a la vez, el ancho de banda de la memoria se convierte rápidamente en el cuello de botella.
Al integrar dos chips TPU 8i de baja latencia en un único encapsulado, el TPU 8i Max escala la capacidad de cómputo y la memoria de forma sincronizada: ofrece el doble de capacidad de cómputo, el doble de memoria SRAM y el doble de ancho de banda HBM que el TPU 8i. Además, como duplica la cantidad de silicio en el mismo espacio de rack, los centros de datos pueden implementar más potencia de cálculo por pie cuadrado y por vatio.
Cuatro sistemas, cuatro etapas
Los cuatro sistemas que componen la octava generación de TPU de Google brindan a los clientes un acelerador pensado para cada etapa del ciclo de vida de los agentes:
- TPU 8t: entrenamiento a gran escala (scale-up).
- TPU 8i: razonamiento de baja latencia.
- TPU 8tx: computación confidencial.
- TPU 8i Max: ventanas de contexto masivas y la mayor densidad de cómputo por rack.
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.