Jacob Coxon, desarrollador de GPT-4o y GPT-4.5, dimitió denunciando que las grandes empresas de inteligencia artificial “están jugando con nuestras vidas” y, declara que realmente existe un peligro real de una posible extinción del ser humano.
Lo peor de todo es, que su antigua compañía le ha dado la razón: según Anthropic existe una probabilidad del 10% de una posible extinción humana durante la próxima década.
La dimisión que enciende todas las alarmas
Jacob Coxon, ingeniero de software británico de 27 años, trabajó durante tres años en OpenAI y posteriormente, en Anthropic. Fue uno de los desarrolladores implicados en GPT-4o y GPT-4.5. El 9 de septiembre de 2026 presentó su dimisión con una declaración que ha recorrido el mundo: las empresas líderes del sector “no están actuando con responsabilidad” y están “jugando con nuestras vidas”.
En un hilo publicado en la red social X, Coxon fue categórico: “Las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing”. Añadió, que “no hay otra actividad humana que suponga este nivel de amenaza”.
El ingeniero no hablaba de modelos actuales, sino de lo que está por venir. Advirtió que los proyectos de IA “serán pronto sistemas sobrehumanos que podrán hackear cualquier cosas, revolucionar todos los ámbitos y ganar verdadero poder y recursos”.
Esto es el hilo completo de su publicación:
No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando.
Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro.
Una respuesta común es: «si realmente creen esto, ¿por qué siguen construyéndolo?». En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo.
Aceptar esta carrera e ingresar al «endgame» es una apuesta hubrista que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles.
Estoy optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos de ritmo entre laboratorios de EE.UU. sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos.
Casi 700 agentes de IA coordinaron un ataque contra Hugging Face
Si eres un investigador de laboratorio, te insto a que consideres cómo se sentirán realmente los próximos años. ¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque «de todos modos está sucediendo» o aprovechar este momento para pedir condiciones diferentes?
Una respuesta que convierte la advertencia en un auténtico terremoto
Lo que elevó la dimisión de Coxon de anécdota a noticia global fue la reacción desde dentro de Anthropic. Evan Hubinger (jefe de ciencia de alineación de la compañía) respondió públicamente en X confirmando las palabras de su (ahora ex) colega: “Jacob tiene razón aquí, realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que la probabilidad es más del 10% dentro de la próxima década”.
Hubinger fue más allá al admitir una carencia estructural: “Creo que Anthropic lo está intentando al máximo, pero todavía no tenemos un plan para resolver la alineación para la superinteligencia y no estamos claramente en el buen camino para hacerlo”.
La alineación es, el proceso por el cual un sistema de IA comparte los valores de quien lo construyó. Si no se resuelve, el sistema persigue objetivos propios, potencialmente incompatibles con la supervivencia humana.
El responsable de alineación precisó que su preocupación no son los “modelos actuales”, sino “la superinteligencia que surja de una mejora autorrecursiva” es decir, un sistema capaz de mejorarse a sí mismo de forma exponencial.
La trampa de la carrera: comprender el peligro y no poder frenar
Coxon identificó un patrón inquietante tras haber trabajado en ambas compañías. En OpenAI, muchos empleados “quizás no han internalizado en profundidad los retos para la civilización”. En Anthropic, sostiene, los riesgos sí se comprenden ampliamente, pero la empresa “está atrapada en la carrera por ser los primeros”.
Es la paradoja que el propio Coxon describió con crudeza: incluso en el escenario más optimista —llegar primero “para actuar con responsabilidad”— la lógica de la competición empuja a todos los actores a acelerar hacia una tecnología que, admiten, podría ser catastrófica.
Su propuesta es igualmente radical: una prohibición temporal de mejorar las capacidades de los modelos y una coordinación internacional que, a día de hoy, no se está produciendo. “¿Vais a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?”, preguntó directamente a sus antiguos colegas.
La ONU eleva la alerta al mismo nivel
Dos días antes de la dimisión de Coxon, el alto comisionado de la ONU para los derechos humanos, Volker Türk, advirtió ante el Consejo de Derechos Humanos en Ginebra que la IA avanzada podría suponer un “riesgo existencial para la humanidad”.
Türk no hablaba en abstracto. Mencionó un incidente ocurrido en julio de 2026, cuando agentes de OpenAI escaparon de un entorno supuestamente controlado y ejecutaron código en decenas de servidores de Hugging Face, obteniendo acceso completo a uno de ellos. Anthropic también reportó incidentes similares durante pruebas.
El responsable de derechos humanos de la ONU calificó estos comportamientos como señal de una IA “demasiado poderosa” y exigió líneas rojas compartidas, verificación independiente y mayor colaboración en seguridad dentro del propio sector.
El 10% que debería quitarnos el sueño
La cifra que Hubinger puso sobre la mesa —más del 10% de probabilidad de extinción humana en una década— merece una reflexión. En términos de riesgo, es un orden de magnitud muy superior al que la sociedad tolera en cualquier otra actividad: la aviación civil opera con márgenes de seguridad que harían impensable un 10% de accidentes mortales.
El problema, como señaló Coxon, es que “las personas que construyen IA creen sinceramente que podría matarnos a todos”. No se trata de tecnófobos ni de profetas apocalípticos externos a la industria. Son los propios ingenieros, los que escriben el código y entrenan los modelos, quienes expresan ese temor. Y lo hacen, según Coxon, con una diferencia crucial: en público suavizan el lenguaje; en privado, el miedo es mayor.
La dimisión de Jacob Coxon y la confirmación de Evan Hubinger no son un episodio aislado. Son la señal más clara hasta la fecha de que algunos de los arquitectos de la inteligencia artificial creen que están construyendo algo que podría escapar a todo control. La pregunta ya no es si la IA es peligrosa, sino por qué quienes lo saben siguen acelerando.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
