GoogleDando un paso revolucionario en la infraestructura de la inteligencia artificial, anunció la arquitectura de la TPU especial de nueva generación (unidad de procesamiento de Tensoor). Ironwood, la TPU de la Séptima Generación de la Compañía, ha sido diseñado para responder a las necesidades avanzadas de los modelos Géminis. Google dice que este procesador realiza tareas de nivel avanzado, como el razonamiento simulado. El gigante de la tecnología llama a este período como la edad de inferencia ”.
Google está hablando de los modelos Gemini de nueva generación, no solo de la arquitectura del modelo, sino también de la infraestructura que hace posible el rendimiento de estos modelos. En el centro de esta infraestructura, Ironwood ahora se encuentra. Junto con este procesador, la compañía afirma que los sistemas de inteligencia artificial «similar al agente» ganarán fuerza. Dichos sistemas se definen como estructuras que pueden recopilar datos en nombre del usuario, tomar decisiones y producir salidas. En resumen, Google anuncia que la inteligencia artificial evoluciona no solo responde, sino también a una estructura proactiva.
Ironwood ha sido introducido como la TPU más potente y escalable. Cada chip tiene una capacidad de transacción de hasta 4,614 tflops por segundo. Estos chips pueden comunicarse directamente a través de la Interconexión Inter-Chip (ICI) de nueva generación desarrollada por Google. Además, estos procesadores pueden funcionar agrupando hasta 9.216 piezas con sus estructuras de enfriamiento líquido. Esta estructura gigante puede alcanzar un total de 42.5 potencia de cálculo de exafultos. Los desarrolladores podrán usar estos procesadores de nueva generación en dos configuraciones diferentes: 256 servidores de chips o 9.216 grupos de chips que se ejecutan con plena capacidad.
Los chips de madera de hierro atraen la atención no solo con la potencia de procesamiento, sino también con la capacidad de memoria. Cada TPU está equipada con memoria de 192 GB. Esto significa un aumento de 6 coronas en comparación con el Trillium de generación anterior (TPU V6). El ancho de banda de memoria también se mejora en 7.2 tbps 4.5 veces. Además, la compañía enfatiza que Ironwood es dos veces más eficiente que Trillium en términos de rendimiento por vatio.
Incluso Google confía tanto en Ironwood que ni siquiera se abstiene de hacer algunas comparaciones controvertidas. La compañía afirma que Ironwood es 24 veces más rápido que El Capitan, conocido como el súper computadora más poderoso del mundo. Google hace esta comparación sobre el FP8, pero El Capitan ofrece 1.7 exafultos.
Ironwood de Google muestra que una tendencia reciente continuará sin cesar: independientemente de Nvidia. Aunque NVIDIA todavía es indiscutible en el sector, el entrenamiento de Amazon, los chips de inferentia y graviton son; Las soluciones de Microsoft como Maia 100 y finalmente Ironwood muestran que los gigantes de la tecnología otorgan una gran importancia a las soluciones internas.
