Los líderes de los principales laboratorios de IA aprovecharon el fin de semana para acordar un plan que, bajo la apariencia de responsabilidad; les permite capturar a los reguladores, ganar más dinero y eludir su responsabilidad por comportamientos peligrosos. Lo han llamado “pacing the frontier” (midiendo la frontera).
El CEO de Anthropic, Dario Amodei, puso la primera piedra con una publicación en la que expresaba alarma por la velocidad de mejora de la IA y sugería que el ataque a Hugging Face perpetrado por agentes descontrolados de su rival OpenAI (OAI-HF) representa un momento que demuestra que algo debe cambiar en las llamadas empresas de IA de “frontera”, esencialmente los grandes creadores de modelos estadounidenses.
“También es fácil descartar OAI-HF como el fracaso de una sola empresa, pero creo que sería un error”, escribió. “Creo que es deber de toda empresa de IA de frontera actuar como si OAI-HF les hubiera ocurrido a ellos” añadió, porque teme que en poco tiempo un enjambre de agentes “podría ser capaz de tomar el control de todo internet con una botnet persistente”.
Amodei propuso por tanto que “debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso sabio del tiempo que ganemos”.
El plan específico de tres puntos relevantes
El CEO propuso un plan de tres puntos para regular la IA:
- Exigir a los laboratorios de IA que alojen “evaluadores integrados” cuyo trabajo sea “verificar el cumplimiento de las prácticas y compromisos de seguridad, informar de incidentes y ayudar a evaluar la alineación no solo de los modelos de IA ya completados, sino de los canales y procesos de entrenamiento”.
- Que las empresas de IA de frontera que operan en países democráticos colaboren “para establecer estándares comunes de seguridad, así como límites a la velocidad del progreso descontrolado de la IA”, con formas indefinidas de “coordinación” que serían “legalmente desafiantes” y “requerirían apoyo gubernamental”.
- Un vago llamamiento a los gobiernos democráticos para que “coordinen con gobiernos autoritarios, en la medida en que sea posible, tomando en serio los desafíos de verificar el cumplimiento”.
El CEO de OpenAI (Sam Altman) respaldó las ideas de Amodei. También lo hizo Elon Musk. Satya Nadella de Microsoft, se sumó igualmente. Y así, cuatro multimillonarios firmaron el mismo conjunto de reglas que creen que los gobiernos del mundo deberían adoptar para regular sus actividades.
Amodei incluso dio a las democracias una amenaza contra la que unirse: los autoritarios dispuestos a usar la IA de forma poco ética.
Este nuevo consenso llega después de años en los que la gran IA abogó por una supervisión ligera y utilizó ese tiempo para construir tecnología que genera material de abuso sexual infantil, dispensa consejos de salud terribles y ha hecho posible el incidente OAI-HF.
La promesa de productividad, en entredicho
La gran IA también ha argumentado que entregará una revolución de la productividad. Daryl Plummer, jefe de investigación de la consultora Gartner, utilizó su discurso de apertura en el simposio anual de la compañía en Australia para citar investigación que encontró que los vendedores de software prometen ganancias de productividad del 50% con la IA, pero los clientes reportan un aumento del 16%.
Plummer también dudó de que la promesa de Amodei de frenar el desarrollo sea real. “Lo creeré cuando lo vea” dijo en la apertura, añadiendo que NO confía en que los multimillonarios sean alguna vez altruistas.
Escribir tus propias reglas
Las ideas de Amodei se leen como un intento de “captura regulatoria”: la situación en la que intereses particulares encuentran la manera de definir las reglas que les imponen sus reguladores.
Esos reguladores, dóciles, toman entonces decisiones que benefician a las entidades que supervisan más que al resto de nosotros. En este caso, Anthropic, SpaceX, Microsoft y OpenAI abogan por regulaciones que ellos mismos han definido y que equivalen a un alto el fuego durante el cual ya NO necesitan competir tan ferozmente.
El CEO de OpenAI, Sam Altman, también admitió prácticamente que la regulación será buena para los inversores cuando en una entrevista de fin de semana con la biblia de los multimillonarios (Fortune) reveló que su empresa no buscará cotizar en bolsa este año porque no es oportuno hacerlo mientras las preocupaciones sobre seguridad de la IA sigan sin resolverse.
“Tenemos muchas cosas que hacer, como estar a la altura de este momento de lo que se requerirá para la seguridad y la alineación y cómo la industria y los gobiernos pueden trabajar juntos”, dijo.
O dicho de otro modo: los inversores ganarán más dinero si OpenAI pospone su salida a bolsa hasta que la confianza sea mayor, mientras su CEO se mueve para generar esa confianza respaldando una propuesta de captura regulatoria.
Amodei, por su parte, esbozó algunas cosas muy concretas que quiere de Washington: dejar de vender chips de Nvidia a China para que sus empresas de IA NO puedan construir mejores modelos y una ofensiva contra la destilación de modelos.
“Si ejecutamos bien estas medidas, creo que frenarían el progreso de China lo suficiente como para ampliar significativamente la ventaja de Estados Unidos durante los próximos 3 a 5 años, la ventana en la que la IA se vuelve geopolíticamente más importante”, escribió.
Este plan también significaría, por supuesto, que los servicios de IA de las empresas chinas serían inferiores a los de Anthropic durante más tiempo, en un momento en que las nubes chinas están penetrando en los mercados de rápido crecimiento de Oriente Medio y el sudeste asiático.
Mensaje, que para nada ha sido bien recibido desde China, y al que las instituciones gubernamentales Chinas NO han tardado en contestar ofreciendo su punto de vista sobre el tema, y pidiendo una colaboración y desarrollo en equipo.
Recepción en Washington
La propuesta de “marcar el ritmo de la frontera” cayó mal en Washington. El presidente de la Cámara de Representantes, Mike Johnson, advirtió que el plan de Amodei podría “asfixiar la innovación” y permitir que China domine la IA global. El presidente Trump, desestimó las advertencias de que la IA puede tener efectos nocivos y afirmó que Estados Unidos debe liderar el mundo en IA.
Tales respuestas pueden reflejar el hecho de que el vasto gasto en infraestructura de IA está generando crecimiento del PIB en economías, por lo demás estancadas. O quizá demuestran, una vez más, que los legisladores casi siempre llegan tarde a comprender las ambiciones de las empresas tecnológicas y los medios que utilizan para lograrlas.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
