El CEO de OpenAI, Sam Altman, lanzó este sábado un dardo velado contra Anthropic y sus investigaciones en torno a la posible conciencia de la inteligencia artificial. Altman aseguró sentirse “muy incómodo” ante la idea de atribuir a los modelos de IA algún tipo de poder religioso* o autoridad moral.
Sus declaraciones se suman a las de otras figuras destacadas del sector, que empiezan a posicionarse públicamente en contra de los esfuerzos por “explorar no solo la supuesta conciencia de los modelos”, sino también por abrirse a la posibilidad de dotarlos de principios morales y el deseo de orientar su comportamiento.
Una renuncia al juicio humano
En una publicación reciente de X, Altman expresó con claridad su preocupación: “Me siento muy incómodo con que la gente intente atribuir fuerza religiosa o una rendición del juicio humano a los modelos de IA, y creo que es un problema de seguridad real”.
El comentario llega después de que The New York Times revelara que Christopher Olah (cofundador de Anthropic) se hubiese estado reuniendo con líderes religiosos para abordar algunas de las cuestiones más controvertidas en torno al futuro de la IA: desde la posible supuesta conciencia de los modelos hasta la manera de incorporar en ellos, principios morales y comportamientos éticos.
Según el Times, Olah llegó a plantear incluso la posibilidad de que los modelos participaran en una confesión de estilo católico. El objetivo no sería únicamente que una IA reconociera sus errores, sino utilizar ese proceso para modificar y orientar su comportamiento futuro. Lo que claramente derivaría en un sesgo
La propuesta pone sobre la mesa una cuestión hasta hace poco reservada a la ciencia ficción: ¿Si algún día las máquinas fueran capaces de desarrollar una forma de conciencia realmente cercana a la real?, ¿Podrían también asumir conceptos como la culpa, la moral, la responsabilidad o una religión?
El papa León XIV entra en escena declarando que, “los algoritmos carecen de la chispa humana”
La dimensión espiritual se ha convertido, casi de forma inesperada, en uno de los nuevos frentes de debate sobre el futuro de la inteligencia artificial. El papa León XIV se ha mostrado crítico con determinados efectos de la IA y ha instado a la Iglesia a colaborar con artistas y creadores para preservar aquello que considera específicamente humano: la creatividad.
En ese contexto, afirmó que “los algoritmos carecen de la chispa de la humanidad”.
Según informó el Times, antes de un encuentro celebrado en el Vaticano en mayo, Olah de Claude trató de convencer a asesores del pontífice de que la posibilidad de que los modelos desarrollen algún tipo de conciencia merece ser tomada más en serio. El encuentro, refleja hasta qué punto el debate sobre la IA ha dejado de ser exclusivamente tecnológico para pasar a otros aspectos relevantes de la sociedad.
En la actualidad, preguntas que antes exclusivamente parecían pertenecer al terreno de la filosofía o la religión (qué es la conciencia, qué significa actuar moralmente o qué distingue a una persona de una máquina) ahora comienzan a formar parte de la conversación sobre el desarrollo de los sistemas de inteligencia artificial.
Conciencia, moral y seguridad
La controversia apenas comienza. Mientras Anthropic explora cuestiones tan profundas como la posible conciencia de los modelos y la forma de incorporar principios morales en su comportamiento, figuras como Altman y Barron advierten de los riesgos de otorgar a la IA una autoridad que podría terminar desplazando el juicio humano.
El debate, por tanto, va mucho más allá de decidir si una máquina puede ser consciente. También, se plantea quién debe definir lo que es correcto, quién debe asumir la responsabilidad de las decisiones de una IA y hasta dónde estamos dispuestos a confiar en ella.
Para Altman, el atribuir cualidades religiosas o humanas a los modelos no es simplemente un error conceptual: puede convertirse en un problema de seguridad. La preocupación es que, al conferir a las máquinas una autoridad moral que no poseen los seres humanos terminen delegando en ellas decisiones que deberían seguir estando bajo nuestro control.
En una industria acostumbrada a hablar de capacidades, escalabilidad y rendimiento, la discusión sobre el “alma” de la IA introduce una pregunta mucho más incómoda: ¿Si algún día las máquinas parecen humanas estaremos preparados para decidir qué lugar deben ocupar?, ¿Qué lugar deberíamos conservar nosotros entonces?
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
