Sohu, el chip de IA más rápido de todos los tiempos y 20 veces más rápida que Nvidia H100

La joven empresa Etched ha presentado lo que llama el chip de IA más rápido de todos los tiempos. La solución se llama Sohu.

Según los creadores, un servidor con ocho aceleradores basados ​​en Sohu es comparable en rendimiento a 160 aceleradores Nvidia H100. Es decir, estamos hablando de una diferencia de 20 veces.

Se podría pensar que se trata de una especie de fantasía de una startup para recaudar dinero, pero la cuestión es que, de hecho, Sohu no se puede comparar tan fácilmente con el H100 u otros aceleradores similares que existen en el mercado.

La diferencia es que tanto los aceleradores H100 como los AMD Instinct, en primer lugar, en realidad se basan en la GPU y en segundo lugar, son productos muy universales.

Sohu, a su vez, es un ASIC y es el chip más especializado. Sohu sólo puede trabajar con redes neuronales, que se denominan transformadores. Esta es solo una de las arquitecturas que existen hoy en el mercado de redes neuronales, pero hoy es la principal para crear IA generativa.

Los creadores de Sohu proceden de esto. Dado que este tipo de tareas son frecuentes, basta con crear un chip que sólo pueda funcionar en un modo, pero en este modo será un orden de magnitud más rápido que cualquier competidor universal.

Se sabe que el Sohu se produce utilizando la tecnología de proceso de 4 nanómetros de TSMC, lo que significa que debería ser muy eficiente energéticamente.

Los creadores del ASIC afirman que su creación no sólo supera a la Nvidia H100, sino que también será un orden de magnitud más barata y rápida que la Nvidia Blackwell. Sin embargo, aún no está claro cuándo se iniciará la producción en masa de Sohu.