Los grandes modelos de IA de China refuerzan sus defensas: menos capacidad de ataque, más control de exportación

Actualidad y herramientas de Inteligencia Artificial leídas en CIBERED tu blog de Informática y Tecnología en Español Favorito

La nueva generación de modelos insignia de Alibaba, Tencent, Moonshot y Zhipu restringe sus funciones ofensivas en ciberseguridad, mientras Pekín prepara un marco regulatorio más estricto para la tecnología de inteligencia artificial.

En un movimiento coordinado que marca un punto de inflexión para el sector, los principales desarrolladores de inteligencia artificial de China han comenzado a limitar deliberadamente las capacidades de ataque cibernético de sus modelos más avanzados.

La decisión (revelada por Bloomberg) afecta a las últimas versiones de los modelos insignia de Alibaba, Tencent, Moonshot y Zhipu, que ahora priorizan la detección de vulnerabilidades y las funciones defensivas sobre la generación de exploits.

Alibaba: filtrado selectivo y pesos cerrados

El modelo Qwen4-Max de Alibaba constituye el ejemplo más claro de esta nueva orientación. La compañía ha filtrado de forma intencionada los materiales de entrenamiento susceptibles de ser utilizados para ciberataques, conservando en cambio aquellas capacidades útiles para escenarios defensivos como la detección de vulnerabilidades.

Además, esta versión no ha publicado sus pesos, lo que impide a los usuarios descargar y desplegar versiones sin censura. El detalle no es menor: la familia Qwen fue durante años una de las más apreciadas por la comunidad de código abierto y llegó a situarse entre las familias de modelos de pesos abiertos más descargadas del mundo.

Tencent y Moonshot: eliminar el material ofensivo desde el origen

Tencent adoptó una estrategia similar antes del lanzamiento oficial de Hy4. La compañía limitó explícitamente las funciones de ciberseguridad del modelo y eliminó del proceso de entrenamiento los datos relacionados con la generación de exploits.

Por su parte, Moonshot anunció el pasado 23 de octubre Kimi K3.1 Pro, del que también se eliminó el material relacionado con ataques informáticos durante las dos fases de post-entrenamiento.

La propia empresa reconoció el coste de esta decisión: el modelo filtrado obtuvo un 81,0 % en su benchmark interno de explotación de vulnerabilidades, frente al 90,5 % de la versión sin filtrar.

Zhipu y el contexto regulatorio

Zhipu, por su parte, llevó a cabo una revisión de seguridad antes de abrir los pesos de GLM-5.3 en agosto, y notificó las vulnerabilidades del sistema a las autoridades competentes.

Este gesto encaja con un contexto regulatorio en plena ebullición: el pasado 16 de octubre, el Ministerio de Comercio, junto con el Ministerio de Ciencia y Tecnología, abrió a consulta pública la revisión del Catálogo de Tecnologías Prohibidas y Restringidas para la Exportación de China, que propone incluir en el régimen de control o restricción técnicas como la generación y mutación de código malicioso impulsada por IA, con un total de 23 tecnologías afectadas en el ámbito de la inteligencia artificial.

A principios de noviembre, responsables de la Comisión Nacional de Desarrollo y Reforma anunciaron la aceleración de estándares de seguridad y principios éticos para desarrolladores de IA, subrayando la necesidad de incorporar medidas de seguridad desde la propia fase de desarrollo.

El trasfondo: un umbral de riesgo cada vez más cercano

Estas decisiones no se producen en el vacío. A finales de octubre, CrowdStrike reveló en un informe que un grupo denominado VAPOR PANDA utilizó el modelo DeepSeek junto con el framework ARTEX para lanzar intrusiones contra más de 200 organizaciones en al menos 14 países en un lapso de once días.

El 7 de noviembre, el científico jefe de IA de Tencent, Yao Shunyu, advirtió en Hong Kong que las capacidades cibernéticas de los modelos (y muy pronto también las biológicas) están alcanzando umbrales susceptibles de causar daños reales.

El fundador de la firma de seguridad Fangcun AI, resumió la disyuntiva con honestidad ante Bloomberg: eliminar el material ofensivo del entrenamiento supone un equilibrio entre coste y eficacia, pero “actualmente no existe ningún método capaz de eliminar por completo el riesgo de los modelos”.


Preguntas frecuentes (FAQ) sobre este artículo

Las restricciones en ciberseguridad

1. ¿Qué han limitado los desarrolladores chinos de IA?

Las capacidades de ataque cibernético de sus modelos más avanzados.

2. ¿Qué empresas están afectadas?

Alibaba, Tencent, Moonshot y Zhipu.

3. ¿Qué priorizan ahora esos modelos?

La detección de vulnerabilidades y las funciones defensivas.

4. ¿Qué medio reveló la decisión?

Bloomberg, recogida posteriormente por IT之家.

5. ¿Por qué es un punto de inflexión?

Porque es un movimiento coordinado de los principales desarrolladores de IA de China.

6. ¿Qué modelo de Alibaba ejemplifica el cambio?

Qwen4-Max.

7. ¿Qué hizo Alibaba con Qwen4-Max?

Filtró materiales de entrenamiento útiles para ciberataques.

8. ¿Qué conservó Qwen4-Max?

Las capacidades defensivas, como la detección de vulnerabilidades.

9. ¿Qwen4-Max publica sus pesos?

No, no los ha publicado.

10. ¿Por qué importa que no publique los pesos?

Porque impide descargar y desplegar versiones sin censura.

11. ¿Qué era la familia Qwen antes?

Una de las familias de pesos abiertos más descargadas del mundo.

Tencent y Moonshot

12. ¿Qué hizo Tencent antes de lanzar Hy4?

Limitó las funciones de ciberseguridad y eliminó datos de generación de exploits.

13. ¿Qué modelo anunció Moonshot?

Kimi K3.1 Pro, el 23 de octubre.

14. ¿Qué se eliminó en Kimi K3.1 Pro?

El material relacionado con ataques informáticos.

15. ¿En qué fases se eliminó?

En las dos fases de post-entrenamiento.

16. ¿Cuánto bajó el rendimiento de Kimi K3.1 Pro?

Del 90,5 % al 81,0 % en su benchmark interno de explotación.

17. ¿Reconoció Moonshot ese coste?

Sí, la propia empresa lo reconoció.

Zhipu y la regulación

18. ¿Qué hizo Zhipu antes de abrir GLM-5.3?

Una revisión de seguridad.

19. ¿Cuándo abrió los pesos de GLM-5.3?

En agosto.

20. ¿Qué notificó Zhipu a las autoridades?

Las vulnerabilidades del sistema.

21. ¿Qué ministerio abrió consulta pública?

El Ministerio de Comercio, junto con Ciencia y Tecnología.

22. ¿Cuándo se abrió la consulta pública?

El 16 de octubre.

23. ¿Qué catálogo se revisa?

El Catálogo de Tecnologías Prohibidas y Restringidas para la Exportación.

24. ¿Cuántas tecnologías de IA afecta la propuesta?

23 tecnologías.

25. ¿Qué técnica se quiere incluir en el régimen de control?

La generación y mutación de código malicioso impulsada por IA.

26. ¿Qué anunció la Comisión Nacional de Desarrollo y Reforma?

La aceleración de estándares de seguridad y principios éticos.

27. ¿Cuándo lo anunció?

A principios de noviembre.

28. ¿Qué subrayó esa Comisión?

La necesidad de incorporar seguridad desde la fase de desarrollo.

El trasfondo y los riesgos

29. ¿Qué grupo usó DeepSeek para ciberataques?

VAPOR PANDA.

30. ¿Qué framework usó junto a DeepSeek?

ARTEX.

31. ¿A cuántas organizaciones atacó?

A más de 200 organizaciones.

32. ¿En cuántos países?

En al menos 14 países.

33. ¿En cuánto tiempo?

En once días.

34. ¿Quién reveló el informe?

CrowdStrike, a finales de octubre.

35. ¿Qué advirtió Yao Shunyu, científico jefe de IA de Tencent?

Que las capacidades cibernéticas de los modelos alcanzan umbrales de daño real.

36. ¿Dónde lo advirtió?

En Hong Kong, el 7 de noviembre.

37. ¿Qué otras capacidades mencionó?

Las biológicas.

38. ¿Qué dijo el fundador de Fangcun AI?

Que eliminar material ofensivo es un equilibrio entre coste y eficacia.

39. ¿Existe un método para eliminar el riesgo al 100 %?

No, según Fangcun AI no existe ningún método capaz de eliminarlo por completo.

40. ¿Cuál es la idea principal del artículo?

Que los modelos insignia chinos restringen funciones ofensivas mientras Pekín prepara un marco regulatorio más estricto.

41. ¿Qué concepto técnico centra el debate?

La generación de exploits y la detección de vulnerabilidades.

42. ¿Qué problema global señalan los expertos?

El riesgo creciente de las capacidades cibernéticas y biológicas de los modelos.

43. ¿Qué dos ideas subraya el artículo?

La autorregulación de las empresas y la presión regulatoria del gobierno chino.

44. ¿Qué corrige la decisión de las empresas?

El rumbo hacia funciones defensivas en lugar de ofensivas.

45. ¿Qué matiz mantiene el sector?

Que no existe un método para eliminar el riesgo por completo.

46. ¿Qué lectura hicieron los expertos de seguridad?

Que las capacidades de los modelos ya causan daños reales.

47. ¿Qué derecho defienden los desarrolladores?

El de limitar funciones peligrosas en sus modelos.

48. ¿Qué papel jugó CrowdStrike?

Reveló el ataque de VAPOR PANDA con DeepSeek y ARTEX.

49. ¿Qué dijo Yao Shunyu sobre las capacidades biológicas?

Que muy pronto también alcanzarán umbrales de daño real.

50. ¿De qué dependerá que el debate continúe?

De cómo evolucionen las capacidades de los modelos y la regulación china.

Vistas: 0

Descubre más desde CIBERED

Suscríbete y recibe las últimas entradas en tu correo electrónico.

Scroll al inicio