El discurso de Altman, CEO de OpenAI, ante la ONU

El director ejecutivo de OpenAI, Sam Altman, se dirigió al Consejo de Seguridad de la ONU para hablar sobre inteligencia artificial, donde abordó las oportunidades y los riesgos que conlleva el desarrollo de la IA y pidió una mayor cooperación internacional para establecer estándares para la evaluación de capacidades, la evaluación de riesgos, la protección de la seguridad y la supervisión humana de los sistemas de IA de vanguardia.

Afirmó que, a medida que las capacidades de la IA mejoran rápidamente, los beneficios y riesgos potenciales de las tecnologías relacionadas se vuelven cada vez más directos y evidentes. Sugirió que la IA podría asemejarse a un Renacimiento lleno de creatividad y descubrimientos, o bien a una Revolución Industrial que desencadene agitación y caos.

Altman afirmó que la mejor versión de la IA no consiste en convertir a las personas en engranajes de una máquina, ni en optimizar la vida hasta que desaparezcan las partes que requieren intervención humana. Se trata, en cambio, de otorgar a las personas mayor autonomía en un mundo complejo. Hay muchas cosas que la IA no puede ni debe automatizar.

Él cree que la IA puede ayudar a las personas a aprender, crear, descubrir y resolver problemas, pero a medida que el sistema se vuelve más autónomo, también pueden darse situaciones en las que los humanos no puedan comprender o controlar sus decisiones, o en las que el poder esté excesivamente concentrado.

Aquí señala que cuanto más fuerte y autónoma sea la IA, más probabilidades tendrá de superar al sistema, concentrar el poder en manos de unos pocos o tomar decisiones que las personas no puedan comprender ni controlar.

En concreto, mencionó la auto-mejora recursiva (es decir, la participación de la IA en el proceso de desarrollo de la IA). Altman afirmó que, si el proceso de desarrollo de la IA se automatiza aún más, el ritmo del progreso tecnológico podría acelerarse rápidamente; por lo tanto, se requiere un alto grado de cautela con respecto a los desarrollos relacionados.

Altman resumió los graves problemas que pueden surgir del desarrollo de la IA en dos direcciones. La primera es la pérdida de control sobre el futuro: la IA avanza demasiado rápido para que los humanos puedan seguirle el ritmo, y no podrán intervenir cuando sea necesario.

Afirmó que la industria no puede asumir demasiado riesgo tecnológico solo porque los beneficios de la IA sean demasiado grandes o importantes, ni puede tomar decisiones precipitadas debido a la competencia empresarial. OpenAI ha ralentizado unilateralmente su desarrollo en el pasado y lo seguirá haciendo en el futuro . No se deben entrenar modelos que no puedan demostrarse con certeza que están bajo control humano. Declaró que, independientemente de si se estima el riesgo de desastre en un 10 %, un 1 %, un 12 % o un 0,1 %, estos niveles son inaceptables.

La segunda cuestión es el tema recurrente de la concentración de poder: los modelos de IA más potentes y el poder asociado no deben concentrarse en manos de unas pocas personas, para evitar que un individuo, una empresa o un país impongan su visión del mundo a todos los que utilizan modelos de IA.

Altman señaló que esta lógica debe rechazarse, incluso si resulta beneficiosa para uno mismo. OpenAI intenta encontrar un punto intermedio entre el optimismo ciego y el pesimismo apocalíptico, adhiriéndose a tres principios:

• En primer lugar, a medida que mejoran las capacidades de la IA, los seres humanos deben seguir estando en el centro de la toma de decisiones de la IA;
• En segundo lugar, los beneficios del progreso científico y del crecimiento económico deben estar al servicio del pueblo (creados por el pueblo y para el beneficio del pueblo).
• En tercer lugar, la tecnología debe empoderar a las personas para que más gente pueda utilizarla para alcanzar sus objetivos.

Afirmó que OpenAI puede ser uno de los desarrolladores de tecnología, pero no el protagonista de la historia; su función es empoderar a la humanidad a nivel global. OpenAI no pretende, ni debe, guiar el juicio ni los valores humanos. La IA debe ayudar a los investigadores a descubrir, a los médicos a tratar, a los profesores a enseñar, a los emprendedores a crear empresas y a las comunidades a resolver problemas. El progreso humano no consiste en que las herramientas reemplacen la capacidad de acción humana.

Altman también habló sobre el progreso de la IA en la investigación matemática. Afirmó que los modelos de OpenAI han evolucionado desde manejar solo aritmética de primaria hace tres años hasta alcanzar el nivel de un medallista de oro en competencias matemáticas de secundaria hace dos años, y ahora al nivel de competencias matemáticas internacionales. Por ejemplo, hace unas semanas, un modelo interno de OpenAI resolvió uno de los Problemas del Premio del Milenio, las ecuaciones de Navier-Stokes (Nota: un conjunto de ecuaciones diferenciales parciales que describen el movimiento de fluidos, utilizadas en el diseño de aeronaves, la predicción meteorológica y la investigación del flujo sanguíneo).

Afirmó que resolver problemas matemáticos no es un fin en sí mismo, sino que busca capacitar a las personas para descubrir nuevos conocimientos y utilizarlos para mejorar la atención médica, elevar el nivel de vida y expandir el potencial global. Hizo hincapié en que las corporaciones no pueden reemplazar el proceso democrático.

Para que la IA sea democrática, las decisiones más importantes no pueden tomarse únicamente en un laboratorio de San Francisco; deben ser moldeadas mediante un proceso democrático y por gobiernos responsables ante el pueblo. A nivel internacional, esto requiere cooperación.

Afirmó que, históricamente, incluso naciones rivales o con intereses contrapuestos se han unido en pos de intereses comunes ante el avance de las nuevas y poderosas tecnologías. Esto debe repetirse ahora. Se necesita un mecanismo complementario entre los estándares nacionales e internacionales de vanguardia en inteligencia artificial.

Estas normas deben medir las capacidades, evaluar los riesgos, determinar la idoneidad de las salvaguardias y mantener una supervisión humana efectiva a medida que los sistemas se vuelven más autónomos. También se necesitan normas comunes para que los países puedan comparar la evidencia, verificar el cumplimiento y contar con un lenguaje y una comprensión comunes de lo que está sucediendo.

Afirmó que se necesitan protocolos de notificación, clasificación e informe de incidentes precisos y rápidos para que el mundo aprenda antes de que los fallos se conviertan en desastres. También se necesitan canales de seguridad entre gobiernos, operadores de infraestructuras críticas y expertos técnicos para compartir nuevas vulnerabilidades y amenazas.

Afirmó que estas normas no deben limitar a las empresas existentes ni favorecer un modelo de negocio en particular; deben respaldar tanto a los desarrolladores de modelos abiertos como cerrados, a los nuevos participantes y a los laboratorios consolidados, a las autoridades nacionales y a la colaboración internacional. Los gobiernos pueden decidir cómo incorporarlas a sus ordenamientos jurídicos.

Pero si el mundo logra un consenso sobre la importancia de las pruebas sólidas, las medidas de seguridad adecuadas y una supervisión eficaz, todos saldrán beneficiados. Altman afirmó que OpenAI no tiene todas las respuestas y está dispuesta a colaborar con todas las partes para encontrar una solución.

En sus conclusiones, afirmó que el mundo se encuentra actualmente en una encrucijada. Un camino conduce al poder centralizado, a la toma de decisiones opaca y a la percepción de que la IA impone las cosas más importantes de la vida.

El otro camino lleva a que la IA esté al servicio de la gente, con la participación de esta en su desarrollo a través de instituciones democráticas. En este camino, el progreso científico busca mejorar la vida de las personas, permitiendo que más personas participen en el futuro, y la tecnología continúa empoderando a individuos y comunidades, permitiendo que cada persona viva según sus propias decisiones. Altman afirmó que este es el futuro que vale la pena construir.