La inteligencia artificial avanza a un ritmo vertiginoso, pero no todas las innovaciones llegan exentas de controversia. La última en comprobarlo ha sido Meta, que apenas unos días después de presentar Muse Image, su nuevo modelo de generación de imágenes basado en IA ya se enfrenta a una creciente ola de críticas por la forma en la que la plataforma utiliza la imagen de millones de usuarios de Instagram.
El motivo es sencillo, pero profundamente polémico: cualquier persona puede generar imágenes utilizando la apariencia de un adulto con una cuenta pública de Instagram, sin que dicho usuario tenga que autorizar previamente ese uso. Aunque Meta asegura, que existen mecanismos de protección para impedir contenidos ofensivos o difamatorios, numerosas organizaciones consideran que el verdadero problema no reside en la tecnología, sino en la ausencia de un consentimiento explícito.
La discusión trasciende a Meta y plantea una cuestión que probablemente marcará el futuro de la inteligencia artificial: ¿deben las grandes plataformas poder utilizar nuestra identidad digital por defecto, o solo cuando el usuario lo autorice expresamente?
Muse Image: La nueva apuesta de Meta por la generación de imágenes mediante IA
Con Muse Image, Meta continúa ampliando las capacidades de Meta AI, su ecosistema de inteligencia artificial generativa integrado en Facebook, Instagram, WhatsApp y el resto de servicios de la compañía.
La nueva herramienta permite crear imágenes a partir de instrucciones escritas, pero incorpora una función especialmente llamativa: los usuarios pueden indicar el perfil público de Instagram de otra persona adulta para que la IA utilice su apariencia como referencia visual durante la generación de la imagen.
La experiencia resulta extremadamente sencilla y apenas requiere unos segundos. Sin embargo, detrás de esa aparente simplicidad se esconde el aspecto que ha encendido todas las alarmas.
Actualmente, las personas cuya imagen es utilizada no reciben ninguna notificación, ni tampoco deben aprobar previamente ese uso. En caso de no querer participar, son ellas quienes deben localizar la configuración correspondiente y desactivar manualmente esta posibilidad.
Este modelo, conocido como opt-out, es precisamente el origen de la controversia.
El consentimiento vuelve a convertirse en el gran campo de batalla de la inteligencia artificial
La llegada de la IA generativa ha obligado a replantear conceptos tradicionales sobre privacidad, propiedad intelectual e identidad digital. En este caso, el debate no gira únicamente alrededor de la creación de imágenes, sino sobre quién debe tener el control de la propia apariencia.
Muchos expertos consideran que un sistema basado en el consentimiento implícito traslada injustamente la responsabilidad al usuario. En lugar de solicitar autorización antes de utilizar un rostro, la plataforma permite su uso por defecto y obliga a quienes no estén de acuerdo a excluirse manualmente.
Frente a este enfoque existe el denominado modelo opt-in, en el que ninguna imagen puede utilizarse sin que la persona afectada otorgue previamente su consentimiento.
La diferencia puede parecer técnica, pero supone un cambio profundo en la manera en que las grandes empresas gestionan la identidad digital de millones de personas.
Organizaciones de privacidad califican la medida como una invasión de los derechos de los usuarios
Las reacciones no se hicieron esperar. La organización estadounidense Public Citizen, especializada en la defensa de los derechos de los consumidores y la privacidad, fue una de las primeras en condenar públicamente la decisión de Meta.
Su director de políticas sobre inteligencia artificial, J.B. Branch, describió esta iniciativa como una de las formas más preocupantes de utilizar la imagen de los ciudadanos sin autorización expresa, afirmando que nadie debería descubrir de un día para otro que su rostro se ha convertido en materia prima para experimentos comerciales con inteligencia artificial.
Para estos colectivos, el problema no consiste únicamente en los posibles abusos, sino en el precedente que puede sentar para el resto de la industria tecnológica.
Actores, artistas y creadores también muestran su preocupación
El rechazo tampoco se limita al ámbito de la privacidad. La agencia Creative Artists Agency (CAA), una de las mayores representantes de actores, músicos y personalidades del entretenimiento, ha solicitado que Meta modifique completamente su política de consentimiento.
La organización sostiene que ningún tercero (incluidas las empresas de inteligencia artificial) debería utilizar el nombre, la voz, la imagen, la apariencia o cualquier obra creativa sin un consentimiento claro, documentado y verificable.
Además, consideran imprescindible que los creadores puedan decidir bajo qué condiciones puede utilizarse su identidad, supervisar dichos usos e impedir asociaciones comerciales o promocionales que nunca hayan autorizado.
SAG-AFTRA recomienda a sus miembros desactivar la función
En la misma línea se ha pronunciado SAG-AFTRA, el principal sindicato de actores de Estados Unidos. A través de sus redes sociales, la organización ha recomendado a todos sus afiliados (e incluso al resto de usuarios de Instagram) que desactiven cuanto antes la opción que permite utilizar su imagen en Muse Image.
Para el sindicato, proteger la identidad digital será uno de los grandes desafíos de la industria del entretenimiento durante los próximos años, especialmente ahora que las herramientas generativas son capaces de recrear rostros con un grado de realismo cada vez mayor.
Meta defiende su sistema de protección
Ante la creciente polémica, Meta ha insistido en que la nueva función incorpora múltiples mecanismos de seguridad destinados a impedir usos claramente abusivos.
Según la compañía, la inteligencia artificial bloquea la generación de imágenes que vulneren sus políticas internas, incluyendo contenidos violentos, sexuales, difamatorios o que puedan perjudicar directamente a personas reales. Sin embargo, estas garantías no han servido para calmar las críticas.
Alexandr Wang, responsable de Meta Superintelligence Labs, ha reconocido que la empresa está recibiendo numerosas opiniones negativas y asegura que los equipos internos están analizando cuidadosamente qué cambios podrían introducirse en futuras versiones del sistema.
Por el momento, Meta no ha anunciado modificaciones en su política de consentimiento.
Un debate que podría redefinir el futuro de la inteligencia artificial
La controversia provocada por Muse Image va mucho más allá de una única función de Instagram.
Cada vez son más las plataformas capaces de recrear rostros, voces o estilos personales mediante inteligencia artificial, lo que obliga a redefinir conceptos que hasta hace apenas unos años parecían incuestionables.
¿Quién controla nuestra imagen pública? ¿Puede una empresa utilizarla únicamente porque está disponible en Internet? ¿Debe existir siempre un consentimiento previo? ¿Qué ocurre cuando una IA genera contenido que puede confundirse con una fotografía real?
Estas preguntas ya no pertenecen al terreno de la ciencia ficción. Forman parte del presente y, previsiblemente, también del futuro de la regulación tecnológica.
La decisión que adopten gigantes como Meta servirá de referencia para el resto del sector y, posiblemente, para los legisladores que trabajan en las próximas normas sobre inteligencia artificial y protección de la identidad digital.
Conclusión
La llegada de Muse Image demuestra que el verdadero desafío de la inteligencia artificial ya no consiste únicamente en desarrollar modelos cada vez más avanzados, sino en establecer límites claros sobre el uso de la identidad de las personas.
Mientras Meta defiende que ha incorporado suficientes mecanismos para evitar contenidos dañinos, buena parte de la comunidad tecnológica, jurídica y artística considera que la cuestión fundamental sigue sin resolverse: el consentimiento debería ser un requisito previo, no una opción que el usuario tenga que desactivar después.
En un escenario donde la IA es capaz de reproducir con enorme precisión el rostro, la voz y la apariencia de cualquier individuo, la protección de la identidad digital se perfila como uno de los grandes debates tecnológicos de esta década. El desenlace de esta polémica podría influir en cómo todas las grandes plataformas gestionarán estos derechos en los próximos años.