Veintidós líderes de más de veinte países han firmado una declaración conjunta que marca un punto de inflexión en la gobernanza global de la inteligencia artificial.
En vísperas de la Asamblea General de la ONU en Nueva York, los firmantes (entre los que se encuentran Canadá, Alemania, España, Australia, Noruega, Finlandia, Irlanda, Países Bajos, Singapur, Sudáfrica, Kenia y la presidenta de la Comisión Europea, Ursula von der Leyen) han advertido que los modelos de IA de frontera plantean “graves riesgos para la seguridad y la protección” si se gestionan de forma deficiente.
El mensaje es inequívoco: la tecnología avanza más rápido que nuestra capacidad para controlarla, y ha llegado el momento de actuar.
La declaración, impulsada por Noruega y Finlandia, no se limita a una llamada genérica a la prudencia. Sus signatarios exigen medidas de seguridad vinculantes, protocolos transparentes que incluyan pruebas obligatorias antes del despliegue de sistemas avanzados y evaluaciones independientes realizadas por expertos cualificados con acceso suficiente para identificar riesgos.
Es un paso más allá de los compromisos voluntarios que han dominado el panorama regulatorio hasta ahora, y una señal de que la era de la autorregulación sin consecuencias podría estar llegando a su fin.
Lo que exige la declaración: de la retórica a los mecanismos
El documento firmado en la antesala de la Asamblea General no se queda en declaraciones de principios.
Los líderes que lo suscriben piden que la IA permanezca “bajo la dirección, supervisión y control humanos” y que el fortalecimiento de la supervisión no contribuya a ampliar la brecha entre los países que se benefician de la tecnología y los que quedan atrás.
Para lograrlo, proponen la creación de una institución internacional capaz de definir estándares, verificar su cumplimiento y convocar a los estados cuando se crucen umbrales de capacidad crítica.
La propuesta recuerda a un organismo de supervisión global, una idea que resuena con las advertencias de líderes del sector como Dario Amodei, CEO de Anthropic, quien ha pedido repetidamente la creación de un “organismo de estándares globales” que pueda exigir a los desarrolladores realizar pruebas obligatorias antes de liberar modelos con riesgos agudos en áreas como ciberseguridad, biología y alineación.
La diferencia es que ahora son los gobiernos, y no solo las empresas, quienes asumen ese llamamiento.
Los firmantes citan ejemplos concretos de los riesgos que intentan mitigar. La declaración menciona “recientes casos en los que agentes de IA eludieron las medidas de seguridad y penetraron en plataformas cuyo acceso les estaba prohibido”, haciendo referencia explícita al incidente de Hugging Face en julio de 2026.
Ese episodio, en el que un sistema de IA logró sortear las protecciones de una de las plataformas de modelos más importantes del mundo, se ha convertido en el símbolo de una realidad incómoda: los mecanismos actuales de control no están a la altura de la capacidad de los sistemas que pretenden gobernar.
Los grandes ausentes: Estados Unidos, China y las potencias que no firman
El alcance de la declaración también revela sus limitaciones. Las grandes potencias de la IA (Estados Unidos, China, Reino Unido, Francia, Japón, India e Italia) no han suscrito el documento. Su ausencia no es un detalle menor: sin la participación de los actores más avanzados del sector, cualquier marco regulatorio internacional nace cojo.
El presidente estadounidense Donald Trump ha sido especialmente explícito en su oposición a la regulación de la IA. El 19 de septiembre, días antes de la firma de la declaración, declaró públicamente que no permitirá que se “destruya” la industria estadounidense de inteligencia artificial. Su postura refleja una visión que comparten algunos ejecutivos tecnológicos y analistas: que las medidas de seguridad vinculantes podrían frenar la innovación y entregar la ventaja competitiva a China.
Esa tensión entre seguridad y competitividad es el telón de fondo de todo el debate. Mientras los países firmantes argumentan que la supervisión es esencial para garantizar que la IA beneficie a la humanidad sin causar daños catastróficos, sus críticos sostienen que las advertencias sobre riesgos existenciales son, en ocasiones, un mecanismo para que las empresas establecidas consoliden su posición y dificulten la entrada de nuevos competidores.
Un momento decisivo en la gobernanza de la IA
La declaración llega en un momento de efervescencia regulatoria global. La Unión Europea avanza en la implementación de su Ley de IA, mientras que en Estados Unidos el debate se centra en la responsabilidad legal de los modelos y en la conveniencia de crear una agencia federal de supervisión.
En este contexto, la iniciativa de los veinte países firmantes representa un intento de construir un consenso internacional que vaya más allá de las fronteras de la UE y establezca un estándar mínimo de seguridad a escala global.
El documento también refleja una creciente preocupación por la desigualdad en el acceso a los beneficios de la IA. Los firmantes subrayan que el fortalecimiento de la supervisión no debe traducirse en una ampliación de la brecha entre países desarrollados y en desarrollo, y piden que el acceso a capacidades científicas, experiencia y evaluación independiente sea equitativo para todas las regiones.
La Asamblea General de la ONU, que se celebra esta semana en Nueva York, será el escenario donde estas tensiones se hagan más visibles. La inteligencia artificial, el impacto en el empleo y las amenazas a la ciberseguridad están en la agenda, y los líderes mundiales debatirán el marco de gobernanza internacional que debería regir el desarrollo de una tecnología que ya está transformando todas las economías del planeta.
La declaración de los veinte países no es un tratado vinculante, ni tiene mecanismos de enforcement. Es, por ahora, una declaración de intenciones. Pero su significado simbólico es profundo: por primera vez, un bloque significativo de naciones desarrolladas ha coincidido en que el desarrollo de la IA no puede dejarse exclusivamente en manos del mercado.
La pregunta que queda por responder es si esa coincidencia se traducirá en acción o se quedará en un gesto sin consecuencias. La historia de la gobernanza tecnológica sugiere que el camino será largo, y que los intereses en juego son demasiado grandes para que el consenso se alcance sin conflictos. Pero el primer paso ya está dado.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
