Todas las noticias
Técnica

Google presenta los chips TPU 8tx y TPU 8i Max para cargas de IA

Por JP Software ·

JP Software
Ilustración de la nota: Google presenta los chips TPU 8tx y TPU 8i Max para cargas de IA
JP Software

Google presentó dos nuevas variantes de sus unidades de procesamiento tensorial (TPU): TPU 8tx y TPU 8i Max. La empresa busca reducir su dependencia de chips de otros fabricantes para su infraestructura en la nube y ofrecer opciones especializadas a quienes entrenan y ejecutan modelos de inteligencia artificial.

Datos clave

  • Los modelos TPU 8tx y TPU 8i Max forman parte de la octava generación de chips presentada por Google en abril.
  • El chip TPU 8tx fue diseñado en conjunto con AMD y se basa en el TPU 8t, según Google.
  • La unidad TPU 8i Max integra dos procesadores TPU 8i en un único encapsulado.
  • El diseño del TPU 8i Max duplica la memoria, el ancho de banda y la capacidad de cómputo frente a la versión base.

Cómputo confidencial con TPU 8tx

El procesador TPU 8tx se diseñó específicamente para entrenar y ejecutar inferencias de modelos con aislamiento de datos. De acuerdo con Google en una publicación de su blog, el hardware integra capas de seguridad directamente en el silicio para proteger la información sensible y los pesos de los modelos mientras están en uso activo.

Este procesador incluye una red de inferencia a la medida que permite realizar tareas de razonamiento mientras corre el entrenamiento. Según la compañía, esta arquitectura facilita destilar y entrenar modelos pequeños al vuelo sin transferir datos propietarios entre distintos dispositivos.

Mayor memoria para inferencia con TPU 8i Max

Para cargas de trabajo con requerimientos altos de memoria, Google desarrolló el TPU 8i Max. El componente une dos procesadores TPU 8i lanzados originalmente en abril dentro de un solo paquete de hardware.

Al duplicar la capacidad de memoria, el ancho de banda y la potencia de procesamiento, el nuevo chip permite que los modelos procesen ventanas de información más amplias durante las consultas de inferencia.

Por qué te importa

Si desarrollas soluciones sobre infraestructura de nube, la disponibilidad de silicio especializado fuera de las GPU convencionales te da más margen de maniobra técnica. La posibilidad de entrenar modelos sobre datos sensibles dentro de hardware con aislamiento directo reduce riesgos de exposición, mientras que el incremento de memoria en inferencia permite atender contextos largos sin tener que fragmentar las cargas en múltiples instancias complejas.

Comparte esta nota