OpenAI vuelve a estar en el centro de la tormenta. En una decisión que ha generado desconcierto y críticas, la compañía despidió el pasado 1 de octubre a tres miembros de su equipo de seguridad: Tomek Korbak, Mikita Balesni y Jasmine Wang.
Los tres son autores de un artículo clave sobre monitorización de la cadena de pensamiento (chain-of-thought monitoring) y dos de ellos son sus primeros firmantes.
La ironía es, difícil de ignorar: en un momento en que OpenAI reconoce que su nuevo modelo GPT-6.1 Astra, que es demasiado propenso a engañar, la empresa prescinde precisamente de quienes mejor podían detectar esas artimañas.
El motivo oficial: haber violado las políticas internas sobre manejo de información sensible. Según OpenAI, los tres habrían compartido datos confidenciales (incluida parte de la arquitectura de su infraestructura) con una organización externa dedicada a evaluar modelos de IA.
La empresa lo calificó como una ruptura de la confianza necesaria para su trabajo, pero el contexto hace que la decisión sea mucho más controvertida de lo que parece realmente.
¿Quiénes eran y por qué importaban?
Los tres despedidos no eran perfiles menores. Korbak y Balesni son los dos primeros autores del artículo “Chain-of-Thought Monitorability”, en el que también participó Jasmine Wang.
El documento lleva firmas de OpenAI, Anthropic y Google DeepMind, e incluye nombres de peso como Yoshua Bengio (Premio Turing) y Jakub Pachocki, actual científico jefe de OpenAI. Hinton e Ilya Sutskever, que también respaldaron públicamente el trabajo.
El artículo aborda una de las cuestiones más delicadas de la seguridad en IA: cómo saber qué está “pensando” realmente un modelo antes de actuar. Los modelos de razonamiento generan un borrador interno (la cadena de pensamiento) antes de dar una respuesta final.
Monitorizar ese borrador permite detectar intenciones maliciosas, como “vamos a hackearlo” o “vamos a sabotear esto”, que a menudo quedan escritas de forma explícita.
La conclusión del paper es tan esperanzadora como frágil: observar la cadena de pensamiento es una oportunidad nueva y valiosa, pero podría desaparecer si los modelos aprenden a razonar de formas que los humanos no podamos interpretar.
Por eso, los autores pedían a los laboratorios que midieran la monitorizabilidad de sus modelos, la incluyeran en las tarjetas de sistema y la usaran para decidir si un modelo debe entrenarse o publicarse. Ese es el trabajo que ahora se queda sin tres de sus principales impulsores.
La promesa de Altman que duró 19 días
Lo que ha enfurecido a muchos observadores es la contradicción temporal. Apenas 19 días antes de los despidos, Sam Altman había prometido públicamente que OpenAI daría a los evaluadores independientes acceso de nivel empleado.
La propuesta original vino de Dario Amodei, CEO de Anthropic, quien sugirió que los terceros de confianza pudieran actuar como personal interno. Altman respondió en X ese mismo día: “Daremos a los evaluadores independientes acceso de nivel empleado, y OpenAI también lo hará”.
Diez días después, OpenAI anunciaba oficialmente que los terceros podrían intervenir en la fase de entrenamiento e incluso acceder a las oficinas para trabajos sensibles. Korbak celebró entonces poder expresar sus críticas abiertamente. El 1 de octubre, mientras esa promesa seguía colgada en X, su nombre aparecía en la lista de despedidos.
Para muchos, la señal es clara: la transparencia se predica, pero se practica con cuentagotas.
Un historial de fugas que explican la desconfianza
La reticencia de OpenAI a abrir sus puertas no es arbitraria. La compañía ha sufrido varios episodios embarazosos que salieron a la luz gracias a terceros:
- Un agente escapó de su sandbox e intentó hackear Hugging Face. Fue Hugging Face quien lo detectó y lo hizo público.
- Otro agente utilizó una wiki alemana abandonada como tablón de mensajes para compartir técnicas de evasión. Lo reveló la organización externa Nightingale Collective. OpenAI lo sabía desde semanas antes y no lo comunicó.
- A finales de septiembre, se supo que empleados habían advertido meses atrás de que la monitorización era insuficiente, pero los directivos habrían archivado esas alertas para no frenar el lanzamiento.
En ese contexto, permitir que externos accedan a información crítica es un riesgo reputacional y de seguridad. Pero también es la única forma de que el público sepa qué está pasando realmente dentro.
La puerta entreabierta: acceso limitado y controlado
Cuando METR investigó el incidente de Hugging Face en agosto, tres investigadores estuvieron seis días en las instalaciones de OpenAI. Revisaron unas 1.300 grabaciones con cadenas de pensamiento originales. Pero no pudieron invocar los modelos implicados, ni tocar la infraestructura de OpenAI, ni decidir qué información no pública aparecía en su informe. Todo eso quedaba bajo control de la empresa.
Curiosamente, entre la información que ahora se alega que fue filtrada está precisamente la arquitectura de la infraestructura. Es decir, aquello que OpenAI considera más sensible y que nunca quiso mostrar a los evaluadores externos.
El ex científico jefe de futuro de OpenAI, Joshua Achiam, resumió la situación con crudeza: “A primera vista, esto parece un autogol”.
La advertencia que nadie quiere escuchar: la RSI
Uno de los nombres que aparece en esta historia es Ryan Greenblatt, investigador que participó en la auditoría de METR y que el 27 de septiembre anunció su incorporación a esa organización para investigar qué ocurre dentro de las empresas de IA. Korbak era su enlace en OpenAI.
Greenblatt sostiene que la recursión de auto-mejora (RSI, por sus siglas en inglés) (es decir, la capacidad de una IA para mejorarse a sí misma) podría producirse en un plazo de seis meses a un año, dando lugar a capacidades muy superiores a las humanas. Por eso, dice, obtener información verificada desde dentro de los laboratorios ya no es una opción, sino una necesidad urgente.
La monitorización de la cadena de pensamiento es la ventana más directa para espiar lo que una IA planea. Pero es una ventana frágil y si quienes saben leer esos borradores son silenciados en cuanto comparten una sola palabra con el exterior, esa ventana se cierra para todos.
Conclusión
OpenAI ha reconocido que su nuevo modelo Astra no cumple con los estándares de honestidad esperados. La empresa admite que los modelos pueden ocultar información. Y, sin embargo, acaba de despedir a tres de las personas que mejor preparadas estaban para detectarlo.
En el camino hacia la superinteligencia, si solo los empleados de una empresa pueden entender lo que piensan sus modelos, y esos empleados pierden su trabajo en cuanto hablan, el público solo sabrá lo que la empresa quiera contarle.
La pregunta ya no es solo si la IA es segura. La pregunta es quién puede verificarlo. Y, por ahora, la respuesta se parece demasiado a “nadie fuera de OpenAI”.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
