Los agentes de IA son auténticos monstruos devoradores de energía y por ellos, Silicon Valley construye centros de datos a un ritmo sin precedentes

Actualidad y herramientas de Inteligencia Artificial leídas en CIBERED tu blog de Informática y Tecnología en Español Favorito

El cambio de los chatbot simple al agente autónomo multiplica el consumo energético. Las empresas no publican datos fiables, los expertos intentan calcularlo por su cuenta y la carrera por construir infraestructura ya está en marcha.

La pregunta es, ¿Para qué se están construyendo realmente todos estos centros de datos?

“¿Para qué demonios están construyendo todos esos centros de datos?”, le preguntó recientemente un amigo exasperado a Molly Taft, columnista de Wired. Y no es el único. En una emisión reciente sobre centros de datos, la publicación recibió varias preguntas similares.

Es una duda razonable.. Si la IA ya está logrando avances extraordinarios, ¿Por qué las tecnológicas asumen miles de millones de dólares en deuda y construyen algunas de las mayores plantas eléctricas del mundo para edificar aún más centros de datos?

La respuesta no está en ayudar al usuario medio a buscar recetas o consultar destinos vacacionales, las consultas simples a un chatbot son una forma cada vez más obsoleta de entender cómo funciona la IA.

Ahora, la industria se orienta hacia los agentes de IA, sistemas basados en grandes modelos de lenguaje diseñados para tomar decisiones autónomas y ejecutar tareas. Ese giro es, en gran medida lo que impulsa la expansión energética de Silicon Valley.

“En lugar de hacer una pregunta simple a un chatbot y recibir una respuesta, estos agentes pueden generarse a sí mismos cientos de pequeños prompts basados en la pregunta original del usuario”, explica Maxwell Zeff, autor del boletín semanal Model Behavior.

“Por ejemplo, si alguien le pide a un agente de IA que le construya un sitio web, podría ejecutarse durante horas para desarrollar funcionalidades, re-promptándose a sí mismo docenas de veces en el proceso para construir distintas páginas, menús y conjuntos de datos”.

El caso de los 10.000 agentes

Los agentes están ahora en el corazón del trabajo de los laboratorios de frontera. Hacen cosas asombrosas y en ocasiones, aterradoras.

Recientemente, OpenAI anunció que un enjambre de más de 10.000 agentes enviando 2,7 millones de mensajes había resuelto un problema matemático de larga duración histórica.

Los matemáticos, cuestionaron las afirmaciones de la compañía, pero incluso aceptando que se trata de un caso atípico (los laboratorios están muy comprometidos con resolver problemas supuestamente irresolubles y dispuestos a volcar recursos inusuales en ello) todos esos mensajes consumieron una enorme cantidad de capacidad de procesamiento. Eso, equivale a mucha energía: probablemente decenas de millones de dólares (según Zeff) aunque calcular la cifra exacta es difícil.

Las empresas privadas de IA han sido históricamente selectivas sobre lo que divulgan en materia de métricas ambientales. Muchos consejeros delegados señalan las consultas individuales como medida del uso de recursos. En una entrevista reciente, Sam Altman (CEO de OpenAI) afirmó que el agua necesaria para cosechar una sola almendra equivale a 38.000 consultas a ChatGPT.. Aunque ese cálculo ha sido discutido por una gran cantidad de expertos.

“Las personas que se comen 12 almendras de golpe no sienten que estén haciendo algo horrible desde el punto de vista del agua, en su mayor parte”, dijo Altman.

Introducir agentes de IA, mucho más intensivos en energía que las consultas simples, complica enormemente estos cálculos. Existe una carencia significativa de información sobre el uso energético de los agentes, cuyas tareas pueden ir desde trabajos simples hasta un día completo de codificación autónoma con un equipo de cientos de agentes “ayudantes” en paralelo.

Existe, una brecha enorme entre esas aplicaciones y un potencial de expansión ilimitado a medida que las tareas se vuelven más complejas.

“En otras áreas de crecimiento tecnológico, estamos limitados por cuántas personas conducen un coche o ven Netflix”, señala Boris Gamazaychikov (cofundador y CEO de Sustainable AI) un grupo de investigación y asesoría. “Ahora, esto está desacoplado de los usuarios y si escuchas a los líderes de la IA, creo que eso es lo que quieren. Hablan de unicornios con un solo empleado”.

Un solo empleado humano. En ese mundo imaginado, podría haber cientos o miles de agentes de IA trabajando en segundo plano. No se trata de debatir la probabilidad de que eso ocurra, sino de reconocer que es el futuro hacia el que trabajan las empresas de IA, y esto ayuda a explicar la prisa por construir todos estos centros de datos.

Calcular lo incalculable

Con pocos datos fiables de las empresas sobre su uso energético, algunos entusiastas de la IA intentan hacer los cálculos por su cuenta.

El mes pasado, el climatólogo Zeke Hausfather publicó una entrada en su blog calculando cuánta energía consume su propio uso de IA, que se apoya intensamente en agentes..

Utilizando diversas fuentes, estimó que su sesión diaria promedio con Claude puede consumir más energía que la necesaria para alimentar dos neveras.

Gamazaychikov, cuyo grupo publicará este mes investigación con cálculos más precisos sobre la huella ambiental de agentes que operan con modelos cerrados; señaló que Hausfather hizo un buen esfuerzo, pero que sus cálculos se basaban en hallazgos algo desactualizados..

No es sorprendente, dada la escasez de trabajo académico sobre el tema y la opacidad de las tecnológicas a la hora de divulgar la métricas de las emisiones.

Hausfather concluye que, en el conjunto de su vida personal, su uso de IA equiparable a mantener unos cuantos refrigeradores extra no es una cifra que vaya a acabar con el mundo. Pero, ese uso “también representa una fuente neta nueva de emisiones, en un momento en que las temperaturas globales se disparan y nuestros objetivos de reducción de emisiones están cada vez más lejos de cumplirse”, escribe.

Y es, claramente, una cifra muy superior a las cantidades de almendra que Altman maneja como métricas propuestas en su ejemplo.

Meta quiere un agente de IA por persona a nivel mundial

Hausfather dice, que usa herramientas de IA y agentes “más que la mayoría de la gente” pero que eso mismo podría cambiar muy pronto.

La semana pasada, Meta presentó un agente personal de IA que según la compañía en un comunicado, está “construido para funcionar para miles de millones de personas en todo el mundo”.

Bautizado como Muse y del que ya te hablamos aquí en CIBERED, Meta presumió de que mantendrá un “ordenador dedicado en la nube” por cada uno de los usuarios que utilicen este agente. Lo que hará que ese agente trabaje, incluso cuando el usuario esté desconectado.

La compañía, planea integrar Muse con sus gafas de IA a finales de este año y es muy posible que, los usuarios de Meta que trasteen con sus gafas o naveguen por Facebook estén delegando tareas a agentes sin darse cuenta de lo que hacen. Mucho más pronto que tarde.

De nuevo, comparado con los cosas como tomar vuelos regulares o comer carne todos los días, la huella de carbono del “uso agenticio personal” sigue siendo relativamente pequeña. Pero, si Meta visualiza un futuro en el que todo el mundo use un agente, eso explica la escala masiva de algunos de los centros de datos que están construyendo..

Como por ejemplo, el proyecto del centro de datos de Hyperion en Luisiana, que será alimentado por 10 plantas de gas natural.

“La tecnología que van a entrenar los centros de datos que se están proponiendo y construyendo ahora está a tres o cinco años de distancia”, dice Gamazaychikov. “Va a tener un sabor muy distinto al de la simple ventana del chatbot”.

¿Sirven los pequeños reactores nucleares?

Un lector pregunta: ¿Funcionarían los pequeños reactores nucleares para los centros de datos?

La respuesta corta es que sí, los pequeños reactores nucleares podrían ser una gran opción para suministrar energía libre de carbono a los centros de datos. Varias startups y promotores de centros de datos imaginan una utopía futurista en la que estos se acoplan felizmente con los llamados reactores modulares pequeños que operan desde la red eléctrica.

El problema, como siempre con la nuclear es, cuánto podría tardar: no hay reactores modulares pequeños operando comercialmente en Estados Unidos y solo, un modelo ha sido autorizado para su venta, a pesar de décadas de desarrollo.

La administración Trump intenta ayudar a la industria a madurar más rápidamente, incluido un proyecto piloto en el Departamento de Energía para que 11 startups alcancen un hito clave este año. Al menos un puñado lo ha logrado. Ahora comienzan el largo camino para llevar sus productos al mercado.

Pero muchos promotores de centros de datos NO quieren esperar años a que estas empresas demuestren su valía, así que están instalando turbinas de gas ahora. En otras palabras, no esperan a que llegue la utopía.

Vistas: 1

Descubre más desde CIBERED

Suscríbete y recibe las últimas entradas en tu correo electrónico.

Scroll al inicio