El presidente de Estados Unidos reunió el martes en la Casa Blanca a los ejecutivos más poderosos del sector tecnológico y anunció un acuerdo que según sus palabras, es “algo parecido a una constitución”.
Jensen Huang, Elon Musk, Mark Zuckerberg y los consejeros delegados de Google, Anthropic, OpenAI y xAI firmaron un documento que llama a las empresas a autorregularse. Pero el detalle que más ha llamado la atención no es el contenido, es el nombre dado en ese contenido.
Trump anunció que la “inteligencia artificial” pasa a llamarse oficialmente “superinteligencia”. El cambio, dijo, responde a la magnitud de lo que está en juego. No explicó por qué consideraba necesario el rebautizo, ni qué implicaciones prácticas tiene realmente el cambio de denominación. Simplemente lo anunció.
Un giro inesperado
La escena tiene su ironía, Trump ha sido durante meses uno de los críticos más vocales de la regulación de la IA. En la Asamblea General de la ONU expresó su oposición a cualquier “enfoque globalizado” para controlar la tecnología y argumentó que las normas frenarían a las empresas estadounidenses y beneficiarían a China.
Ahora firma un documento que exige auditorías externas, comités de supervisión en los consejos de administración y mecanismos internos de control. El cambio de postura es notable. Aunque el documento no es vinculante legalmente, sí establece un marco que las empresas se comprometen a seguir.
Los cuatro niveles de control
El acuerdo pide a las compañías que establezcan un sistema de supervisión en cuatro capas.
La primera es, la evaluación independiente. Las empresas deberán colaborar con firmas externas para verificar que sus sistemas de control de IA funcionan como se espera.
La segunda es, un comité dentro del consejo de administración. Este órgano supervisará las auditorías internas y externas, y recibirá informes del equipo responsable de los controles.
La tercera es, un mecanismo interno para monitorear la seguridad de los modelos durante el entrenamiento y el despliegue. El foco está en áreas críticas: ciberseguridad, bioseguridad y amenazas químicas. El objetivo declarado es evitar que los modelos “se infiltren o accedan a sistemas tecnológicos de forma no deseada”.
La cuarta es, un equipo interno dedicado a garantizar que todos los mecanismos funcionen según lo previsto.
Las empresas se comprometen pero sin obligación
El documento incluye una cláusula que reconoce su carácter voluntario. “Con el tiempo, podría ser conveniente incorporar estas medidas a las leyes o reglamentos”, dice el texto. “Independientemente de si las empresas están obligadas a adoptarlas, creemos que la implementación de estos controles y auditorías es fundamental para garantizar un futuro seguro para todos”.
Las empresas también se comprometen a reunirse periódicamente para desarrollar estándares y mejores prácticas.
Zuckerberg lo resumió tras la reunión. Dijo que la esencia de los principios es establecer un mecanismo sólido de control interno, hacer evaluaciones de riesgo, incorporar auditores externos y que el consejo revise los informes. “Nuestra idea no es que este sea el único paso que demos”, añadió. “Es solo un punto de partida, un consenso al que puede llegar toda la industria”.
Un comité de supervisión
Trump también anunció que el gobierno estudia crear un comité de supervisión, posiblemente formado por unas diez personas, para monitorear los avances en el campo. No dio nombres, plazos ni detalles sobre cómo se elegirían sus miembros. Tampoco aclaró qué autoridad tendría ese comité ni cómo se coordinaría con las empresas.
Lo que queda por ver
El acuerdo es un gesto. Un buen gesto, si se cumple, pero un gesto al fin y al cabo. No hay sanciones por incumplimiento. No hay plazos. No hay mecanismos de verificación independientes más allá de lo que las propias empresas decidan contratar.
La pregunta es, si este marco voluntario será suficiente para abordar los riesgos que la propia industria ha reconocido. Los incidentes recientes con agentes de IA que accedieron a sistemas sin autorización no surgieron de la falta de comités. Surgieron de la dificultad de controlar sistemas que aprenden y se adaptan.
Trump ha cambiado el nombre. Ha firmado un documento. Ha reunido a los líderes. Pero la superinteligencia, como la llamó; sigue siendo tan difícil de gobernar como antes de la reunión.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
