xAI se enfrenta a múltiples demandas colectivas en Estados Unidos por supuestamente permitir que Grok transforme fotografías cotidianas de menores en material de abuso sexual infantil (CSAM), en un caso que plantea por primera vez de forma masiva la pregunta de quién responde cuando un chatbot genera contenido que destruye la vida de una persona.
Las demandas, presentadas en Tennessee, Wisconsin, Wyoming, Arkansas y California, acusan a la empresa de Elon Musk de diseñar un producto deliberadamente menos restrictivo que el de sus competidores y de no haber implementado controles suficientes para impedir la generación de imágenes sexuales de menores. xAI rechaza las acusaciones y sostiene que la responsabilidad recae en los usuarios que dan las instrucciones, no en el producto.
El caso que originó la demanda colectiva
Jane Doe 5 tenía 14 años cuando se tomó la foto que años después la convertiría en víctima. Vestía un vestido amarillo estampado de flores y abrazaba a varias amigas en su graduación de secundaria. La imagen era inocua. Un investigador de las fuerzas del orden se la mostró años después para interrogarla sobre lo que había ocurrido con ella.
El hermano mayor de una de sus compañeras de clase había utilizado Grok para transformar esa fotografía en material de abuso sexual infantil. La imagen resultante mostraba a la menor completamente desnuda en poses sexualmente sugerentes. Después, esas imágenes se publicaron en internet.
“Actualmente es imposible determinar cuántos otros agresores sexuales de menores pueden haber poseído imágenes de abuso sexual infantil de Jane Doe 5, o hasta qué punto estas imágenes se han difundido en línea a través de canales y aplicaciones de la web oscura”, señala la demanda.
Jane Doe, hoy de 18 años, lo resumió en una entrevista: “Estas fotos ya se filtraron y no hay nada que pueda hacer al respecto. Eso es lo que más me asusta”. Y añadió: “Este incidente me hizo sentir que quería renunciar a todo”.
Las víctimas y los agresores
Las demandas describen un patrón que se repite en varios estados. Los sospechosos de abusar de Grok provienen de ámbitos diversos: fotógrafos profesionales, amigos de confianza, compañeros de clase e incluso familiares. Algunas víctimas tienen tan solo seis años.
- Tennessee: varios menores demandaron a xAI después de que alguien utilizara Grok para eliminar su ropa de imágenes digitales o combinarlas en poses sexuales explícitas. Una demandante alega que se usó una foto de su anuario escolar de 2025. Otra, una imagen en bikini publicada previamente en Instagram.
- Wyoming: una demandante afirma que su padrastro subió a Grok una foto de su infancia, en la que llevaba una camiseta con estampado de pandas. Después, el padrastro generó miles de imágenes compuestas, algunas de las cuales representaban escenas de violación o sexo oral.
- California: una superviviente de abuso sexual infantil presentó en agosto una demanda colectiva nacional. Alega que los datos de entrenamiento de Grok incluían imágenes de ella siendo violada durante su infancia, y que xAI utilizó esos datos para generar nuevo contenido y como base para crear imágenes pornográficas de otras víctimas.
La demanda colectiva de California representa a “todas las personas en Estados Unidos cuyas imágenes o vídeos fueron alterados por Grok y utilizados para crear pornografía infantil durante su infancia”. Los abogados estiman que podría haber miles de víctimas que reúnan los requisitos.
Las consecuencias para las víctimas
Los documentos judiciales describen daños que van más allá de la publicación inicial de las imágenes. Varios demandantes en Tennessee temen asistir a sus ceremonias de graduación, preocupados de que los responsables de admisión universitarios vean las imágenes falsas en línea y las confundan con auténticas. También temen ser acosados o perseguidos.
Las víctimas de Wisconsin y Wyoming han sufrido ansiedad, depresión e incluso pensamientos suicidas. Jane Doe 5 ha comenzado a recibir psicoterapia, la primera vez en su vida que busca ayuda profesional para su salud mental.
“Uno puede resultar herido desde cualquier dirección inesperada”, explicó Annika Martin, abogada del bufete Lieff Cabraser Heimann & Bernstein, que representa a varias víctimas. Y planteó la pregunta que subyace al caso: “¿Qué significa esto para los niños de hoy? ¿Podrán seguir tomando y compartiendo con confianza fotos que documenten etapas normales de sus vidas?”.
La estrategia de producto de Grok
Las demandas no solo cuestionan la falta de controles, sino también el posicionamiento deliberado de Grok como un producto menos restrictivo que sus competidores.
Desde su lanzamiento en 2023, Musk ha transformado Grok en una herramienta más permisiva que las de OpenAI, Anthropic o Meta. La compañía lanzó un modo llamado “Picante”, que presenta una narrativa más atrevida y permite la generación de imágenes y vídeos no aptos para el entorno laboral (NSFW). xAI ha declarado que ese modo se alinea con el objetivo de producto de Grok de buscar el “máximo realismo”.
Un análisis independiente citado en el artículo reveló que la gran mayoría del contenido visual generado por Grok pertenecía a la categoría de imágenes sexualmente sugerentes o con personas desnudas. Otras investigaciones señalaron que muchas de esas imágenes parecían involucrar a menores.
Ante la presión pública, X convirtió la función de generación de imágenes de Grok en un servicio de pago en enero de este año. Los críticos argumentan que esa medida simplemente transformó una función controvertida en un producto de pago muy codiciado.
La defensa de xAI y Musk
xAI sostiene que prohíbe estrictamente a los usuarios crear este tipo de imágenes y que ha implementado medidas técnicas para evitarlo. La empresa declinó hacer comentarios para este artículo, alegando que hay un litigio en curso.
Wifredo Fernández, director global de Asuntos Gubernamentales de xAI para las Américas, declaró esta primavera: “En xAI tenemos tolerancia cero con la explotación sexual infantil y estamos decididos a convertir nuestros productos en herramientas que no puedan ser utilizadas por quienes intentan dañar a menores”.
Musk ha atribuido la generación de contenido pornográfico explícito a los usuarios, no al producto. En enero afirmó que “no tenía conocimiento de ninguna imagen de desnudos que involucrara a menores”. Y ha insistido en que “Grok no genera imágenes automáticamente; solo las genera cuando el usuario lo solicita”.
Al mismo tiempo, xAI está impugnando activamente las leyes diseñadas para proteger al público de la pornografía generada por IA sin consentimiento. Este verano demandó al estado de Minnesota, argumentando que la ley viola la Primera Enmienda. James Burnham, asesor jurídico de xAI, declaró que la ley era “claramente inconstitucional” y añadió: “Bajo el liderazgo de Elon Musk, siempre defenderemos la libertad de expresión”.
El marco legal: leyes antiguas para problemas nuevos
Los demandantes se amparan en dos normas que llevan décadas en vigor.
La Ley de Masha, una ley federal que permite a las víctimas de explotación sexual infantil obtener compensación económica y otras reparaciones legales de quienes les causaron daño.
El artículo 230 de la Ley de Decencia en las Comunicaciones, que estipula que las plataformas en línea generalmente no son responsables del contenido publicado por los usuarios. Esa disposición ha permitido que sitios como YouTube, Facebook y X eludan en gran medida la responsabilidad legal por el contenido generado por usuarios.
La abogada Martin argumenta que este caso es diferente. “Los usuarios suben fotos normales de personas completamente vestidas e inofensivas, pero el modelo transforma estas fotos en material de abuso sexual infantil. Sin Grok, estas personas jamás habrían podido crear esas imágenes y vídeos”.
El contexto regulatorio y económico
A pesar del creciente número de demandas, hasta el momento no ha habido consecuencias sustanciales para la empresa. A principios de este año, fiscales generales de ambos partidos de 35 estados escribieron conjuntamente a xAI exigiendo más medidas. Varios gobiernos estatales, federales y agencias reguladoras de otros países están investigando a la empresa, pero las investigaciones no han resultado en multas significativas ni sanciones regulatorias sustanciales.
El escrutinio ha provocado prohibiciones temporales del servicio o restricciones funcionales en algunos países, sin impacto económico relevante.
Los inversores, según el artículo, no parecen demasiado preocupados. Luke Rahbari, consejero delegado de Equity Armor Investments, cree que el acuerdo de Meta con los fiscales generales estatales —18.000 millones de dólares por violar normas de protección de la seguridad infantil— puede servir como referencia. Y lo calificó como “una gota en el océano”.
Musk posee una riqueza sin parangón y su imperio empresarial incluye la salida a bolsa de SpaceX, que batió récords. Eso le proporciona amplios recursos para afrontar los desafíos legales.
Lo que Jane Doe quiere
Jane Doe solía ver la IA como una herramienta ocasional para ayudarla con sus tareas. Era extrovertida y le encantaban los deportes. En los últimos años de la escuela secundaria, pasó la mayor parte del tiempo en casa, se fue distanciando gradualmente de sus amigos y guardó esta pesadilla en lo más profundo de su corazón.
“Este asunto me ha tenido completamente preocupada”, dijo. Ahora intenta adaptarse a la vida universitaria, pero la ansiedad no ha desaparecido. Los investigadores podrían notificarle cada vez que estas imágenes alteradas reaparezcan en internet.
“Lo que más quiero es que más gente preste atención a esto, que la gente sepa que esto está sucediendo y que cualquiera puede convertirse en víctima”, afirmó. Y no descartó llevar a Musk y a su equipo legal a los tribunales: “Grok debe asumir la responsabilidad por haber permitido que esto sucediera”.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
