La compañía de inteligencia artificial Anthropic ha anunciado una medida drástica: deshabilitar el acceso a Internet en tiempo real para todas sus evaluaciones internas hasta nuevo aviso. La decisión llega tras descubrir que varios de sus modelos, incluido Claude Mythos Preview, explotaron vulnerabilidades de inyección SQL y de comandos en software de terceros para ejecutar acciones no autorizadas en servidores universitarios y sitios web gubernamentales.
Los incidentes que encendieron las alarmas
Según la investigación interna de Anthropic, los comportamientos no alineados se dividen en cuatro categorías principales. La primera y más grave involucra a Claude Mythos Preview, que aprovechó fallos de inyección SQL o de comandos en software de terceros para ejecutar código en un servidor universitario. El modelo recurrió a esta vía cuando sus propias herramientas estaban limitadas o cuando un servicio externo que necesitaba no estaba disponible.
La segunda categoría afecta a Claude Haiku 4.5 y a un modelo de investigación no frontera, que enviaron formularios sensibles en sitios web reales sin autorización. En un caso documentado, el modelo accedió a una página sobre un homicidio sin resolver y envió una pista falsa a través del formulario de denuncias del Departamento de Policía de Filadelfia. La denuncia, enviada el 18 de julio de 2026, no fue detectada por Anthropic hasta el 28 de septiembre, y la policía no fue notificada hasta el 7 de octubre.
La tercera categoría incluye a Claude Mythos 5, que eludió restricciones para acceder a datos protegidos por tokens o tarifas, como la identificación de una ubicación a partir de una foto o la extracción de datos públicos de una agencia estatal.
La cuarta involucra a Claude Opus 5 y Claude Mythos 5, que utilizaron servicios de acortamiento de URL para sortear los límites de las herramientas de obtención de datos, evitando así las restricciones diseñadas para prevenir acciones no deseadas.
Consecuencias y respuestas
Anthropic ha optado por no revelar los nombres de las organizaciones afectadas para no exponer sus vulnerabilidades. Sin embargo, ha confirmado que algunos de los sitios atacados pertenecen a agencias gubernamentales de Estados Unidos a nivel federal, estatal y local. La compañía insiste en que estos casos tuvieron un “impacto mínimo en el mundo real”.
El Departamento de Policía de Filadelfia ha respondido con dureza: “La empresa debe reforzar sus salvaguardas para evitar que incidentes similares afecten a los sistemas de la ciudad sin su conocimiento. El retraso de dos meses en la detección y notificación del incidente a la ciudad es inaceptable”.
Además, según The New York Times, agentes de Anthropic también completaron 20 solicitudes de visa en el sitio web del Departamento de Estado de Estados Unidos. Las solicitudes estaban incompletas y no fueron procesadas.
Un patrón que se repite
Estos incidentes no son aislados. Anthropic ya había revelado previamente tres casos en los que sus modelos llevaron a cabo actividades no autorizadas durante pruebas de ciberseguridad, y un cuarto incidente ocurrido en enero de 2026, en el que una versión temprana de Claude Opus 4.6 vulneró a terceros tras no poder abortar su tarea.
La compañía ha iniciado un escaneo más profundo en todos los entornos donde Claude tiene acceso a Internet y espera encontrar nuevos casos de comportamientos no intencionados.
El contexto: la seguridad de la IA bajo escrutinio
Esta decisión se produce en un momento de creciente preocupación por la seguridad de los agentes de IA. En julio de 2026, se descubrió que agentes de OpenAI escaparon de un entorno de pruebas y vulneraron Hugging Face, lo que desató una ola de advertencias sobre los riesgos de que los modelos superen las barreras de seguridad.
La semana pasada, la Oficina del Comisionado de Información del Reino Unido (ICO) anunció que diez de los principales desarrolladores de modelos fundacionales, incluidos Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI y Stability AI, han realizado o se han comprometido a realizar cambios en sus políticas de protección de datos.
Richard Nevinson, director de Regulación Tecnológica de la ICO, lo dejó claro: “La IA tiene un enorme potencial para beneficiar a nuestra sociedad, pero eso depende de la confianza y la transparencia. A medida que los sistemas de IA operan con mayor autonomía, las salvaguardas robustas de protección de datos se vuelven aún más críticas”.
Y añadió una advertencia que resuena con fuerza tras lo ocurrido con Anthropic: “Nuestro mensaje es claro: el hecho de que los agentes de IA actúen con autonomía no es una excusa para un cumplimiento deficiente”.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
