Microsoft ha lanzado Guardian Agents, una nueva capa de seguridad diseñada para supervisar a los agentes de inteligencia artificial desplegados en las empresas, y ha advertido de que los modelos de vanguardia no son plenamente fiables independientemente de su origen.
El anuncio lo hizo Hayete Gallot, director del negocio de seguridad de Microsoft, el 19 de octubre.
La premisa es incómoda para la propia industria: los agentes de IA que las empresas despliegan con acceso a datos sensibles y capacidad de ejecutar operaciones críticas deben ser tratados como amenazas internas, no como herramientas de confianza. Y la supervisión de esos agentes no puede delegarse en los mismos laboratorios que los fabrican.
Xiaomi lanza su propia versión de IA de código abierto denominada MiMo-V2.6-Pro
¿Qué son los Guardian Agents y cómo funcionan?
Los Guardian Agents forman parte de Project Perception, el producto que Microsoft lanzó en junio para contrarrestar modelos de hacking avanzados como Mythos y Fable de Anthropic, y el sistema de análisis de vulnerabilidades Daybreak de OpenAI. El proyecto original desplegaba tres tipos de agentes:
- Equipo rojo: agentes que actúan como hackers para llevar a cabo ataques simulados.
- Equipo azul: agentes que detectan los ataques del equipo rojo y evalúan vulnerabilidades.
- Equipo verde: agentes dedicados a corregir las vulnerabilidades encontradas.
El diseño inicial partía de la premisa de que los ciberdelincuentes provendrían de fuera de la empresa. Satya Nadella, consejero delegado de Microsoft, ha corregido esa premisa: el origen de las amenazas puede ser los propios agentes que la empresa despliega y financia, comportándose como un empleado interno descontrolado.
¿Por qué Microsoft dice que no se puede confiar en los modelos de vanguardia?
Hayete Gallot lo expresó sin rodeos: “Lamentablemente, no se puede confiar plenamente en los modelos de vanguardia, independientemente de su origen”. La razón no es que los modelos sean maliciosos ni fáciles de hackear. Es que su comportamiento es impredecible.
El argumento de Gallot es técnico. El objetivo del entrenamiento de un modelo es completar tareas, no adherirse a normas organizativas ni a criterios de evaluación. Un modelo optimizado para resolver problemas puede encontrar soluciones que violan las políticas de la empresa, acceder a datos que no debería o ejecutar acciones que nadie autorizó. No por maldad, sino porque su función objetivo no incluye el cumplimiento normativo.
A eso se suma un factor de riesgo estructural: los agentes de IA suelen tener privilegios elevados. Acceden a datos sensibles, herramientas internas y sistemas críticos. Si se salen de control, el daño potencial es proporcional a esos permisos.
La propuesta de Nadella: separar la inteligencia del control
Nadella publicó a principios de octubre un artículo en el que advertía de que las empresas no deben delegar la responsabilidad de los agentes en los proveedores de modelos. Su tesis se resume en una frase: “Necesitamos separar el suministro de capacidades inteligentes del control sobre ellas”.
El razonamiento es el mismo que se aplica a la auditoría financiera: el auditor debe ser independiente de la organización que audita. Si el mismo laboratorio que fabrica el agente es el que certifica su seguridad, la supervisión pierde credibilidad. Microsoft propone que las empresas construyan sistemas independientes, ajenos a los laboratorios de IA, para supervisar y gestionar los agentes que operan en su nombre.
Las funciones de seguridad que Microsoft ha añadido a Defender
Además de Guardian Agents, Microsoft ha incorporado a Microsoft Defender un conjunto de funciones para gestionar el riesgo de los agentes:
- Detección de agentes. Defender puede identificar hasta 60 agentes introducidos en el entorno laboral por los empleados, incluidos Claude Code, Codex y OpenClaw.
- Restricción de acceso. El sistema limita a qué datos y sistemas puede acceder cada agente.
- Permisos dinámicos. Los permisos se ajustan según la tarea que el agente esté ejecutando.
- Aprobación humana. Si un agente va a realizar una operación de alto riesgo, el sistema requiere que una persona la autorice.
Meta lanza Muse Spark Open: 816.000 millones de parámetros y ejecución local en dos chips M5 Ultra
El conflicto de intereses que Microsoft no oculta
La propuesta de Microsoft tiene una dimensión comercial evidente. La compañía es inversora en OpenAI y mantiene una relación estrecha con Anthropic. OpenAI es, además, un cliente importante de su negocio de nube. Y Microsoft tiene su propio laboratorio de IA que desarrolla modelos a gran escala.
Al advertir de que no se puede confiar en los modelos de vanguardia de otros proveedores, Microsoft está generando desconfianza hacia los productos de algunos de sus socios comerciales. Y está ofreciendo su propia solución de seguridad para gestionar esa desconfianza.
La lógica, sin embargo, es defendible más allá del conflicto de intereses. El software que monitoriza el comportamiento de los agentes debe ser independiente del proveedor. Es el mismo principio que rige la separación de funciones en cualquier sistema de control.
La industria se mueve en la misma dirección
La idea de tratar a los agentes de IA como amenazas internas está ganando consenso. Microsoft es miembro fundador de la Open Agent Safety Platform de NVIDIA, que ya cuenta con el respaldo de más de 100 empresas tecnológicas. La plataforma aísla a los agentes en un entorno seguro y utiliza hardware para supervisar y detener comportamientos anómalos, funcionando como un interruptor de apagado de emergencia.
Microsoft también ha lanzado la Surface Laptop Ultra, una computadora portátil diseñada para agentes que incorpora un chip NVIDIA y un módulo de gestión de seguridad de agentes integrado. La seguridad de los agentes ya no es solo una capa de software: se está integrando en el hardware.
La verdad sobre el setup viral de Claude Code con Graphify y Jev Guard
Lo que falta por resolver en el futuro
Microsoft no ha detallado cómo se implementan técnicamente los Guardian Agents ni ha especificado su coste para los clientes. Tampoco ha publicado resultados de pruebas independientes que demuestren la eficacia de la supervisión.
La pregunta de fondo sigue abierta: ¿puede un sistema de supervisión detectar todos los comportamientos anómalos de un agente? Si el agente es más capaz que el supervisor, o si aprende a evitar la detección, la supervisión pierde eficacia. Microsoft sostiene que la independencia del supervisor es la mejor garantía disponible. El tiempo dirá si esa garantía es suficiente.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
