La dimisión pública de un exempleado de Anthropic desata una ola de preocupación regulatoria. En una audiencia de varias horas, los ex trabajadores de IA advirtieron que la industria prioriza la velocidad sobre la seguridad. Los representantes corporativos se enfrentaron a preguntas incómodas, con respuestas que indignaron a los políticos neoyorquinos.
Eso funciona para una app de fotos, no para la tecnología más poderosa jamás construida
Jacob Coxon, el exempleado de Anthropic cuya dimisión pública el mes pasado desató una ola de preocupación generalizada sobre los peligros potenciales de la inteligencia artificial, compareció este miércoles ante el Concejo Municipal de Nueva York con un mensaje contundente: la industria se mueve demasiado rápido.
“Eso funciona para una aplicación de compartir fotos. No funciona para la tecnología más poderosa jamás construida” , declaró Coxon en referencia a la cultura de “moverse rápido y romper cosas” que según él, impera en las empresas de IA.
Coxon NO estuvo solo. Junto a él comparecieron extrabajadores de Google y OpenAI que también advirtieron sobre los peligros de una tecnología que, a su juicio, avanza sin los controles adecuados.
La audiencia, que se prolongó durante varias horas, se convirtió en un cara a cara entre quienes alertan de los riesgos y los representantes de las empresas que los minimizan.
La cultura de “moverse rápido y romper las cosas” se encuentran bajo vigilancia
La expresión “move fast, break things” (moverse rápido, romper las cosas) muy popularizada en Silicon Valley como lema de una innovación acelerada, fue uno de los ejes del testimonio de Coxon.
Según su testimonio, esa filosofía, que puede tener sentido en el desarrollo de una app de fotos o una red social, es profundamente peligrosa cuando se aplica a sistemas de inteligencia artificial capaces de transformar la economía, la seguridad y la sociedad.
Coxon no es un crítico externo. Su dimisión de Anthropic (una de las empresas más influyentes en el desarrollo de IA) le otorgó credibilidad inmediata y contribuyó a intensificar los llamamientos hacia una regulación más estricta cuanto antes.
Su testimonio ante el Concejo neoyorquino es, una señal de que el debate sobre la seguridad de la IA ha dejado de ser un tema de nicho, para convertirse en una preocupación política de primer orden.
La respuesta de OpenAI que indignó a los presentes
La audiencia no solo contó con voces críticas. También estuvieron presentes representantes de OpenAI, Anthropic, Google y Meta, que defendieron sus prácticas ante las preguntas de los concejales.
Uno de los momentos más tensos llegó cuando se le pidió a Morgan Dwyer, directora de desarrollo de políticas y operaciones de OpenAI, que cuantificara el riesgo de la IA. Su respuesta fue notablemente vaga: dijo que no lo sabía pero que cualquier nivel de riesgo era inaceptable para la compañía.
La falta de concreción no pasó desapercibida. Varios miembros del Concejo criticaron duramente su respuesta. Jumaane D. Williams, Defensor del Pueblo de Nueva York, calificó la intervención de Dwyer como “una respuesta espantosa y fantásticamente terrible”.
El episodio, refleja la creciente frustración de los legisladores ante lo que perciben como evasivas por parte de las empresas de IA a la hora de abordar los riesgos de sus productos.
Del laboratorio a la arena política
Las preocupaciones sobre los riesgos existenciales que podría plantear una IA superinteligente han estado presentes entre un subconjunto de investigadores durante años. Aunque recientemente han calado en algunos políticos y, se han convertido en un factor cada vez más importante en la oposición pública ante el avance descontrolado y desarrollo sin pausa de la IA.
La audiencia de Nueva York es, una muestra de ese cambio. Lo que antes era un debate técnico entre expertos se ha transformado en un asunto de política pública que, involucra a legisladores, activistas y ciudadanos preocupados. La presencia de extrabajadores de las principales empresas en un foro municipal es, un síntoma de que la sociedad civil está empezando a exigir responsabilidades.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
