Google Cloud combina TPU Ironwood y GPU NVIDIA en MLPerf: DeepSeek-V3 en 1,70 minutos y un nuevo test de agentes que debuta con fuerza

Actualidad HARDWARE y novedades que nadie te cuenta y solamente podrás leer aquí - CIBERED

Google Cloud ha presentado 10 resultados en la primera ronda de MLPerf Training v6.1, combinando su TPU Ironwood de séptima generación con GPU NVIDIA Grace Blackwell, y ha logrado entrenar el modelo DeepSeek-V3 de 671.000 millones de parámetros en 1,70 minutos usando 8.192 TPU Ironwood, con una eficiencia de escalado del 96% hasta 4.096 chips.

Los resultados se publicaron el 16 de noviembre. De las 10 puntuaciones presentadas, cuatro corresponden a chips desarrollados por Google y seis a GPU de NVIDIA, lo que refleja una estrategia de Google Cloud que combina su silicio propio con hardware de terceros para cubrir distintos tipos de carga de trabajo.

¿Qué mide MLPerf Training y por qué importa?

MLPerf Training es un conjunto de pruebas estandarizadas que compara el rendimiento de sistemas de entrenamiento de inteligencia artificial. No mide la velocidad de una sola operación, sino cuánto tarda un sistema completo en llevar un modelo desde cero hasta un nivel de calidad predefinido. Cada prueba especifica el modelo, el conjunto de datos y el umbral de precisión que debe alcanzar el sistema.

En esta ronda, MLCommons (la organización que coordina las pruebas) introdujo por primera vez una categoría de aprendizaje por refuerzo de agentes, un tipo de entrenamiento en el que el modelo aprende a ejecutar tareas mediante interacción con un entorno, en lugar de limitarse a predecir texto.

Los resultados de Ironwood en DeepSeek-V3

La prueba de preentrenamiento de DeepSeek-V3 671B es una de las más exigentes de la ronda. Google presentó tres configuraciones con TPU Ironwood, y los datos muestran cómo escala el sistema al aumentar el número de chips.

Chips IronwoodTiempo hasta alcanzar la calidad objetivoAceleración frente a 2.048 chips
2.0485,03 minutos (302 segundos)Referencia
4.0962,62 minutos (157 segundos)1,92 veces
8.1921,70 minutos (102 segundos)2,96 veces

La eficiencia de escalado del 96% con 4.096 chips indica que el sistema aprovecha casi por completo el hardware adicional. En términos prácticos, duplicar los chips casi duplica la velocidad, algo que no siempre ocurre en sistemas distribuidos, donde la comunicación entre nodos introduce sobrecarga.

La comparativa con NVIDIA y el resto de plataformas

Los resultados publicados en la misma ronda permiten comparar plataformas con configuraciones muy distintas. La tabla siguiente recoge los datos disponibles:

PlataformaConfiguraciónTiempo hasta el objetivo
NVIDIA GB300 NVL7210.240 GPU GB3001,38 minutos (82,8 segundos)
Google Ironwood8.192 TPU1,70 minutos (102 segundos)
NVIDIA Vera Rubin NVL721.024 GPU Rubin4,14 minutos
NVIDIA GB300 NVL721.024 GPU GB3008,03 minutos
Google Cloud A4X Max256 GPU GB30031,96 minutos

La lectura de estos datos requiere cautela. El clúster de NVIDIA con 10.240 GPU GB300 fue el más rápido, con 1,38 minutos, pero utilizó un 25% más de aceleradores que la configuración de Ironwood. La comparación directa entre ambas plataformas exigiría igualar el número de chips, algo que los datos publicados no permiten hacer con exactitud.

Los resultados de Google Ironwood y Google Cloud GB300 provienen de la información divulgada por Google. Los del clúster NVIDIA GB300 de 10.240 GPU y del Vera Rubin proceden de la presentación técnica de NVIDIA para esta ronda.

El nuevo test de aprendizaje por refuerzo de agentes

La categoría de Agentic RL debutó en esta edición de MLPerf. Google presentó un resultado con 640 chips Ironwood ejecutando el modelo Qwen3.5-397B. El sistema completó la tarea de programación en 18,02 minutos con una precisión del 76,5%, superando el objetivo del 69%.

Un detalle técnico relevante: la generación de código y el aprendizaje se realizaron de forma simultánea, manteniendo el tiempo de espera del chip de entrenamiento por debajo del 3%. Es decir, los aceleradores estuvieron ocupados en tareas útiles casi todo el tiempo, sin quedarse bloqueados esperando datos o instrucciones.

Google también presentó cinco resultados de A4X y A4X Max en esta categoría. En la prueba de preentrenamiento, una instancia de A4X Max con 256 GPU NVIDIA GB300 alcanzó la calidad objetivo en 31,96 minutos.

¿Qué significan estos resultados para Google Cloud?

La combinación de TPU propias y GPU de NVIDIA en la misma ronda de pruebas refleja una estrategia de doble vía. Google quiere demostrar que su silicio propio es competitivo en cargas de entrenamiento de gran escala, y al mismo tiempo quiere ofrecer a sus clientes la opción de usar GPU de NVIDIA, que siguen siendo el estándar del mercado para muchos equipos de investigación.

La eficiencia de escalado del 96% con Ironwood es el dato más relevante desde el punto de vista técnico. Si un sistema mantiene esa eficiencia al crecer, el coste por unidad de cómputo se mantiene predecible, lo que facilita la planificación de proyectos de entrenamiento a gran escala.

Lo que falta por confirmar

Google no ha detallado el consumo energético de las configuraciones presentadas ni ha publicado comparativas de coste por entrenamiento. Tampoco ha especificado la disponibilidad comercial de las configuraciones de Ironwood utilizadas en las pruebas ni ha indicado si los clientes de Google Cloud pueden acceder a clústeres de 8.192 TPU en la actualidad.

La compañía no ha publicado resultados de eficiencia de escalado más allá de los 4.096 chips, ni ha detallado el rendimiento de Ironwood en otras pruebas de MLPerf Training v6.1 más allá de DeepSeek-V3 y Agentic RL.

Vistas: 1

Descubre más desde CIBERED

Suscríbete y recibe las últimas entradas en tu correo electrónico.

Scroll al inicio