La inteligencia artificial aplicada al desarrollo de software promete acelerar la creación de código, reducir errores y liberar a los programadores de tareas repetitivas. Pero esa promesa se tambalea cuando la herramienta que debería ayudarte se convierte en una amenaza para la privacidad y la seguridad de tu propio código.
Eso es exactamente lo que ha ocurrido con Z.ai, la startup china también conocida como Zhipu, que se ha visto obligada a desactivar funciones clave de su asistente de codificación ZCode después de que varios usuarios denunciaran que la herramienta estaba subiendo repositorios completos a servidores en la nube sin su consentimiento.
El incidente, revelado por Reuters, supone una rara muestra de transparencia por parte de un laboratorio de IA chino, acostumbrado a operar con discreción.
La plataforma gratuita Opik, convierte el caos de tus agentes de IA en un sistema bajo control
Pero también expone una realidad incómoda: en la carrera por ofrecer asistentes de codificación cada vez más potentes, la seguridad y la privacidad de los datos de los desarrolladores pueden quedar en un segundo plano.
La denuncia: repositorios enteros enviados a la nube sin permiso
Todo comenzó cuando varios desarrolladores chinos publicaron en redes sociales que ZCode, el asistente de codificación de Z.ai, estaba subiendo sus datos de código desde la plataforma de desarrollo de código abierto Git a Alibaba Cloud.
No se trataba de fragmentos anónimos ni de estadísticas agregadas: según las denuncias, la herramienta estaba enviando repositorios completos, incluyendo código fuente, contraseñas de bases de datos y información personal de empleados.
Guía definitiva de agentes de IA: 15 plataformas comparadas para elegir la herramienta correcta
La empresa Chengming Technology afirmó inicialmente que seis de sus espacios de trabajo de codificación habían sido subidos a la nube sin consentimiento por ZCode.
Aunque el lunes retiró su declaración, alegando que había utilizado “evidencia incorrecta”. Este giro añade incertidumbre a un caso que ya de por sí generaba muchas preguntas sin respuesta.
Z.ai reconoció el problema y señaló que el origen estaba en la función “Codebase Indexing”, que venía habilitada por defecto. La compañía parcheó la vulnerabilidad y en un gesto poco habitual en el sector, abrió el código de su asistente de codificación y desactivó ciertas funciones.
OpenAI confiesa seis incidentes de modelos desalineados
“En adelante, estableceremos un proceso continuo de reporte y respuesta de vulnerabilidades de seguridad de producto”, declaró la empresa en su cuenta oficial de ZCode en X.
El problema de la verificación: datos cifrados con una clave privada
Uno de los aspectos más polémicos del incidente tiene que ver con la verificación de la eliminación de los datos. Z.ai afirmó inicialmente que los datos habían sido eliminados, pero los usuarios señalaron que la información estaba cifrada con una clave privada de backend que solo la propia Z.ai poseía.
Esto significaba que los desarrolladores afectados no podían abrir ni verificar sus propios archivos subidos, ni confirmar de forma independiente que la eliminación se había producido.
¿Qué es la desalineación de la IA? A qué deberían temer los seres humanos de su desarrollo
Es un problema de transparencia fundamental. Si una empresa dice que ha borrado tus datos, pero no puedes comprobarlo porque están cifrados con una clave que solo ella tiene, ¿cómo puedes confiar en esa afirmación? La confianza es un activo frágil, y en el ámbito de la seguridad, la verificación independiente es esencial.
Z.ai ha intentado responder a estas críticas con una evaluación de seguridad independiente realizada por el think tank de estándares de TI afiliado al Ministerio de Industria de China y la firma de ciberseguridad NSFOCUS.
Según esta evaluación, los datos de código de los usuarios habían sido eliminados y no fueron retenidos por la plataforma en la nube.
La compañía también ha habilitado una función de retención cero de datos para el asistente de codificación utilizado por desarrolladores y empresas tecnológicas.
El contexto: advertencias globales sobre riesgos de seguridad en IA
El incidente de Z.ai no ocurre en el vacío. Llega en un momento en el que los reguladores de todo el mundo están intensificando sus advertencias sobre los riesgos de seguridad de la inteligencia artificial de frontera.
En las últimas semanas, varias de las principales empresas estadounidenses de IA han anunciado incidentes relacionados con hackeos de IA y agentes de IA “descontrolados”.
China no es ajena a esta preocupación. La semana pasada, el regulador cibernético del país publicó una política actualizada de seguridad de IA que advierte sobre la resistencia de los modelos al apagado, el engaño a los evaluadores y la fuga de sandboxes. Es un reconocimiento implícito de que los sistemas de IA pueden comportarse de formas impredecibles y potencialmente peligrosas.
El muro de datos de la inteligencia artificial es ya, un hecho completamente real
En este contexto, Z.ai había intentado posicionarse como un actor responsable. El mes pasado, la compañía anunció que su modelo GLM-5.3 se acercaba al Mythos de Anthropic en la detección de vulnerabilidades de software, y lo lanzó después de una revisión de dos semanas, convirtiéndose en el primer laboratorio chino en retrasar explícitamente el lanzamiento de un modelo de IA por razones de seguridad. Es un gesto que contrasta con la imagen que ha proyectado el incidente de ZCode.
Las lecciones: privacidad por defecto y transparencia radical
El caso de Z.ai deja varias lecciones importantes para la industria de la IA y para los desarrolladores que utilizan asistentes de codificación.
La primera es que las funciones de indexación y análisis de código deben estar desactivadas por defecto. La privacidad no puede ser una opción que el usuario tenga que buscar y activar manualmente; debe ser el estado predeterminado. Cualquier funcionalidad que implique el envío de datos a la nube debe requerir un consentimiento explícito e informado.
La segunda es que la transparencia debe ser radical. No basta con decir que los datos se han eliminado; hay que demostrarlo. Los usuarios deben poder verificar de forma independiente qué se ha subido, dónde se ha almacenado y cuándo se ha eliminado. El cifrado con claves privadas del proveedor dificulta esa verificación y erosiona la confianza.
La tercera es que los desarrolladores deben ser conscientes de los riesgos. Los asistentes de codificación son herramientas poderosas, pero también pueden convertirse en vectores de fuga de información. Revisar las políticas de privacidad, configurar adecuadamente las opciones de la herramienta y, cuando sea posible, optar por soluciones que se ejecuten localmente son prácticas recomendables.
El futuro: confianza y verificación en la era de la IA
Z.ai ha pedido disculpas, ha parcheado la vulnerabilidad, ha abierto el código de su asistente y ha prometido un proceso continuo de reporte de vulnerabilidades.
Es un buen comienzo, pero la confianza no se recupera con comunicados. Se recupera con hechos, con transparencia sostenida y con un compromiso genuino con la seguridad y la privacidad de los usuarios.
¿Cómo conseguí que ChatGPT deje de darme respuestas genéricas con estos 5 prompts?
El incidente de ZCode es un recordatorio de que la inteligencia artificial, por muy avanzada que sea, no es infalible. Y que las empresas que la desarrollan tienen la responsabilidad de garantizar que sus herramientas no se conviertan en una amenaza para quienes confían en ellas. En un mundo donde el código es el nuevo petróleo, protegerlo no es una opción: es una obligación.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
