El secretario general de las Naciones Unidas, António Guterres, ha lanzado una advertencia que resuena con una urgencia creciente en el panorama tecnológico global: el mundo no puede permitirse una “carrera hacia el abismo” en la seguridad de la inteligencia artificial.
Sus declaraciones, realizadas ante los periodistas en la sede de la ONU, llegan en un momento de fractura visible entre los líderes de la industria, con algunos pidiendo una pausa coordinada en el desarrollo de sistemas avanzados y otros rechazando cualquier freno que pueda beneficiar a sus competidores.
Guterres fue directo al grano. Las preocupaciones planteadas por quienes están en la primera línea de la tecnología de IA —que su desarrollo “avanza más rápido que nuestra comprensión de los riesgos”— no pueden ser ignoradas.
Los gobiernos deben asumir su responsabilidad primordial de proteger a los civiles de las amenazas de la IA, lo que significa que “la acción nacional es esencial”, pero “la coordinación global también es indispensable”. Su mensaje no dejaba lugar a dudas: “Necesitamos barreras de protección para construir confianza, y que hagan que la IA sea segura, transparente, responsable, con la dignidad humana en el centro”.
La propuesta de Amodei y la fractura de la industria
El secretario general hacía referencia explícita a la propuesta de Dario Amodei, consejero delegado de Anthropic, para garantizar la seguridad de la IA mediante la coordinación de una ralentización en su desarrollo por parte de las principales empresas tecnológicas y los gobiernos. Una propuesta que ha recibido el respaldo público de Sam Altman, consejero delegado de OpenAI, y de Elon Musk, al frente de SpaceXAI, pero que ha encontrado resistencia en otros actores del sector.
Mark Zuckerberg, consejero delegado de Meta, se desmarcó el miércoles de cualquier llamamiento a una pausa coordinada, insistiendo en que cada empresa de IA tiene la responsabilidad y el incentivo de garantizar que su tecnología sea segura.
Es una posición que refleja la división cada vez más profunda entre quienes creen que la autorregulación y la competencia son suficientes para garantizar la seguridad, y quienes sostienen que sin coordinación global el riesgo de catástrofe es demasiado alto.
A los obstáculos internos de la industria se suman los geopolíticos. La competencia entre Estados Unidos y China por el liderazgo en inteligencia artificial, junto con las motivaciones de beneficio de las empresas, dificulta cualquier esfuerzo coordinado.
Y a esto se añade la resistencia de la administración Trump: el presidente estadounidense calificó esta semana las amenazas de que la IA pueda destruir la humanidad como “un HOAX” y afirmó que los esfuerzos por limitar la tecnología forman parte de una “conspiración ENFERMIZA”.
El potencial y el peligro: las dos caras de la IA
Guterres ha elogiado en repetidas ocasiones el enorme potencial de la inteligencia artificial, incluyendo su capacidad para acelerar el desarrollo económico, mejorar la educación y fortalecer los sistemas de salud. Pero también ha advertido del riesgo “existencial” de una “inteligencia artificial descontrolada”.
Es una dualidad que define el debate actual: la misma tecnología que promete resolver algunos de los problemas más apremiantes de la humanidad es también la que podría, si se desarrolla sin control, causar daños irreparables.
La IA será un tema central en las discusiones del secretario general con los líderes mundiales en la reunión anual de la Asamblea General de la ONU la próxima semana.
Guterres ha dejado claro que la organización seguirá explorando ideas y enfoques prácticos en los próximos días, con el objetivo de construir “un entendimiento compartido sobre cómo avanzar en el desarrollo seguro, protegido y responsable de la IA, identificando al mismo tiempo cuándo los sistemas cada vez más potentes pueden requerir salvaguardas más fuertes o medidas adicionales para gestionar los riesgos potenciales”.
El primer organismo científico global sobre IA
A instancias de Guterres, la Asamblea General estableció en 2025 el primer organismo científico global sobre inteligencia artificial. En su informe preliminar de julio, el panel de 40 miembros advirtió que el uso rápido y sin control de la IA a escala conlleva riesgos para la salud mental de los usuarios, su “potencial uso como herramienta destructiva, impactos en los sistemas sociales, económicos y ambientales, y desafíos asociados con el control de la tecnología”.
El informe del panel es un recordatorio de que los riesgos de la IA no son solo especulativos o de ciencia ficción. Son reales, están documentados y afectan a ámbitos que van desde la salud mental individual hasta la estabilidad de los sistemas sociales y económicos. La cuestión no es si la IA puede causar daño, sino cómo evitar que lo haga sin renunciar a sus beneficios.
La cumbre que aún no tiene fecha
Guterres respondió a una pregunta sobre si la reunión de la próxima semana de los principales funcionarios de los 193 estados miembros de la ONU no sería la oportunidad perfecta para una cumbre sobre cómo frenar los excesos de la IA. Su respuesta fue honesta: no había tiempo para preparar adecuadamente una reunión de ese calibre. Pero añadió que “tiene todo el sentido, en el momento adecuado, celebrar una cumbre internacional seria sobre inteligencia artificial”.
En una cumbre de ese tipo, dijo, “es absolutamente esencial tener a todos a bordo”: gobiernos, empresas, científicos y sociedad civil. “Y espero que esto sea posible”, añadió. Es una expresión de esperanza más que de certeza, pero refleja la convicción de que el problema de la seguridad de la IA no puede resolverse desde un solo país, una sola empresa o una sola disciplina.
Un llamamiento a la cordura en un momento de competencia feroz
El llamamiento de Guterres llega en un momento en el que la competencia por el liderazgo en inteligencia artificial es más feroz que nunca. Las empresas invierten miles de millones en el desarrollo de modelos cada vez más capaces. Los gobiernos compiten por atraer talento e inversión. Y la presión por avanzar rápido, por llegar primero, por no quedarse atrás, empuja a todos los actores a priorizar la velocidad sobre la prudencia.
Es precisamente esa dinámica la que Guterres quiere evitar. Su advertencia sobre una “carrera hacia el abismo” no es una metáfora vacía. Es un reconocimiento de que, en la ausencia de coordinación global, la competencia puede llevar a los actores a relajar sus estándares de seguridad para no perder terreno. Y en el caso de la IA, las consecuencias de esa relajación podrían ser catastróficas.
El secretario general de la ONU no tiene poder para imponer regulaciones ni para frenar el desarrollo de la IA por decreto. Pero tiene una plataforma, y la está utilizando para recordar al mundo que la seguridad de la IA no es un problema que pueda resolverse mediante la competencia.
Es un problema que requiere cooperación, transparencia y un compromiso compartido con la dignidad humana. La pregunta es si el mundo estará dispuesto a escuchar antes de que sea demasiado tarde.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
