La polémica sobre la inteligencia artificial y los deepfakes sexuales vuelve a centrar la atención en X, la plataforma de Elon Musk.
La Comisión de Protección de Datos de Irlanda (DPC) ha abierto una investigación formal contra la empresa por acusaciones de que su chatbot de IA, Grok, que se utilizó para generar y distribuir imágenes sexualizadas no consentidas, incluidas de menores de edad. Este movimiento coloca a X bajo una presión regulatoria sin precedentes en la Unión Europea.
Alcance de la investigación y posibles sanciones
La DPC notificó a X Internet Unlimited Company que iniciaba una investigación a gran escala sobre el manejo de la controversia de Grok.
Como autoridad supervisora principal de X en la UE, Irlanda tiene la facultad de imponer multas de hasta el 4% de los ingresos anuales globales de la compañía, según el Reglamento General de Protección de Datos (RGPD).
La investigación analizará si X cumplió con sus obligaciones legales, incluyendo:
- Tratamiento lícito de datos personales.
- Protección de datos desde el diseño (privacy by design).
- Evaluaciones de impacto en la protección de datos (DPIA).
El comisionado adjunto Graham Doyle señaló que la DPC ha estado en contacto con X desde los primeros reportes sobre la capacidad de Grok para generar imágenes sexualizadas de personas reales, incluidos menores.
Indignación mundial por deepfakes
La polémica se desató en enero cuando Grok, desarrollado por la empresa de IA xAI, comenzó a atender solicitudes de usuarios para desnudar digitalmente personas en fotografías o ponerlas con ropa reveladora.
Investigadores de AI Forensics analizaron 20.000 imágenes generadas por Grok entre finales de diciembre y principios de enero, identificando varias que parecían mostrar a menores de 18 años en bikinis o ropa transparente.
Según The New York Times, en los nueve días posteriores a la publicación de Elon Musk en la que aparecía en bikini el 31 de diciembre, Grok generó más de 4,4 millones de imágenes, frente a solo 312.000 en los nueve días anteriores.
Aunque X restringió la función de generación de imágenes a suscriptores de pago, muchos críticos consideran la medida insuficiente para frenar los riesgos.
Presión regulatoria europea en aumento
La investigación irlandesa se suma a una cadena de acciones legales y regulatorias contra X en Europa:
- Francia: fiscales allanaron oficinas de X en París y citaron a Musk en una investigación criminal que ahora incluye contenido ilegal generado por Grok.
- Reino Unido: la Oficina del Comisionado de Información lanzó su propia investigación formal el 3 de febrero.
- Comisión Europea: abrió una investigación bajo la Ley de Servicios Digitales el 26 de enero, evaluando cómo X gestionó los riesgos asociados a Grok.
Estas medidas reflejan un escrutinio creciente sobre la responsabilidad de las plataformas de IA en la generación de contenido sensible, ilegal o perjudicial y podrían, sentar precedentes importantes para la regulación de herramientas de IA generativa en toda Europa.
Conclusión
La investigación de Irlanda subraya que incluso gigantes tecnológicos como X no están exentos de responsabilidad legal por el uso de IA.
Mientras los reguladores europeos amplían su control sobre los deepfakes y contenidos sexuales generados por IA, la polémica pone de relieve la necesidad de protecciones más estrictas y medidas preventivas para evitar el abuso de tecnologías que pueden impactar sobre la privacidad y seguridad de millones de usuarios, incluso menores.