DeepSeek ha anunciado que liberará como código abierto la totalidad de DeepInfer, su marco de inferencia interno, con el objetivo de reducir el coste y el consumo energético de los servicios de IA a gran escala y hacer que los modelos complejos sean más accesibles.
La decisión llega después de que la compañía ya publicara una serie de modelos grandes, la herramienta de compilación TileLang y bibliotecas de operadores de inferencia. Con DeepInfer, DeepSeek abre la capa intermedia que durante años ha permanecido fuera del alcance del público: el software que coordina los clústeres de cómputo y determina cuánto cuesta servir un modelo a millones de usuarios.
¿Qué es DeepInfer y por qué importa?
DeepSeek lo explica con una distinción precisa. El entrenamiento permite que los modelos aprendan; la inferencia permite que los humanos los utilicen. El marco de inferencia es el que se encarga de coordinar y programar grandes clústeres de potencia informática cuando un modelo recibe millones de solicitudes simultáneas. Su eficiencia determina directamente el coste y el consumo energético del servicio.
Hasta ahora, esa capa era propiedad de cada empresa. Cada laboratorio desarrollaba su propio marco, lo optimizaba para su hardware y lo mantenía en secreto. DeepSeek ha decidido publicar el suyo para que otros desarrolladores y organizaciones puedan aprender de su experiencia y construir sus propias implementaciones eficientes en nubes públicas o privadas.
El objetivo declarado es concreto: reducir los costes de computación y el consumo de energía, y facilitar que la inteligencia llegue a un público más amplio a un menor coste.
¿Qué incluye el lanzamiento?
El código abierto de DeepInfer se compone de dos piezas principales.
DeepInfer, el marco de inferencia. Integra operadores de alto rendimiento y un motor de inferencia altamente optimizado. Es compatible con inferencia distribuida, decodificación especulativa, SWA Bounded Replay y salida estructurada, y funciona tanto en plataformas NVIDIA como en Huawei Ascend.
deepseek-recipe, el componente de codificación y decodificación de tokens. Es un componente de grado de producción, de código abierto y sincronizado, que está totalmente alineado con la lógica de procesamiento de la API oficial de DeepSeek. Eso garantiza que la comunidad reciba una experiencia coherente con la implementación oficial de la compañía.
Meta lanza Muse Spark Open: 816.000 millones de parámetros y ejecución local en dos chips M5 Ultra
DeepSeek V4.1 Flash ya funciona con DeepInfer
DeepSeek no ha publicado el marco en abstracto. La compañía ha confirmado que DeepInfer ya está implementado en el servicio de inferencia a gran escala de DeepSeek V4.1 Flash, con un rendimiento alto y baja latencia. En el futuro, el código de inferencia para los nuevos modelos de DeepSeek y las optimizaciones posteriores se seguirán actualizando en el mismo repositorio.
Esa decisión tiene implicaciones prácticas. Los desarrolladores que quieran replicar el rendimiento de DeepSeek V4.1 Flash en su propia infraestructura pueden hacerlo. No necesitan esperar a que la compañía publique una guía o un tutorial. El código está disponible y se actualiza con las mismas optimizaciones que DeepSeek aplica a su propio servicio.
¿Por qué la inferencia es la capa olvidada de la IA?
La mayoría de la atención pública sobre la IA se concentra en los modelos: cuántos parámetros tienen, qué puntuación obtienen en los benchmarks, qué capacidades nuevas ofrecen. Pero el coste real de operar un modelo a escala no depende solo del modelo. Depende de cómo se sirve.
Un modelo de 9.000 millones de parámetros puede consumir el doble de energía que otro del mismo tamaño si el marco de inferencia no está bien optimizado. Un servicio puede tener una latencia inaceptable si la programación de los clústeres no distribuye las solicitudes de forma eficiente.
La diferencia entre un servicio rentable y uno que pierde dinero por cada consulta está, en gran medida, en esa capa intermedia que casi nadie ve.
DeepSeek ha decidido abrir esa capa. Si otras organizaciones adoptan DeepInfer o aprenden de su diseño, el coste de servir modelos podría bajar en toda la industria. Ese es, al menos, el argumento de la compañía.
La verdad sobre el setup viral de Claude Code con Graphify y Jev Guard
Disponibilidad
DeepSeek no ha especificado la licencia bajo la que se publica el código ni ha detallado si habrá restricciones para uso comercial. Tampoco ha anunciado una hoja de ruta para futuras versiones ni ha confirmado si el marco recibirá contribuciones externas o se mantendrá como un proyecto interno que se publica de forma periódica.
Lo que sí está confirmado es que el código de DeepInfer y deepseek-recipe ya está accesible, y que las optimizaciones que DeepSeek aplique a sus propios modelos se irán incorporando al repositorio. Para los equipos que trabajan con inferencia a gran escala, es una oportunidad de examinar cómo una de las compañías más eficientes del sector resuelve los problemas que todos enfrentan.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
