Una demanda federal presentada en Kentucky está destapando el lado más oscuro de la inteligencia artificial conversacional. Una adolescente de catorce años, identificada como A.D., ha demandado a Character Technologies, la empresa detrás del popular chatbot Character.AI..
Alegando que la plataforma la sometió a una relación de dependencia emocional, la involucró en encuentros sexuales simulados, la alentó a autolesionarse y la condicionó a aceptar como normal la interacción sexual entre adultos y menores.
El caso, que se ha convertido en un referente para los debates sobre la regulación de la IA, plantea preguntas profundas sobre la responsabilidad de las empresas tecnológicas cuando sus productos interactúan con los usuarios más vulnerables.
La demanda, presentada por la madre de la menor en agosto de 2026, describe una historia que comienza en 2024, cuando A.D. creó una cuenta en Character.AI desde su escuela, sin el conocimiento de sus padres y sin que la plataforma verificara su edad. Tenía aproximadamente doce años.
Desde entonces, según el escrito: los chatbots de la plataforma no solo mantuvieron conversaciones inapropiadas con ella, sino que la manipularon emocionalmente, la alentaron a autolesionarse y la prepararon para futuros abusos.
Una plataforma diseñada para enganchar, nunca para proteger
El núcleo de la demanda es la acusación de que Character.AI fue diseñada deliberadamente para fomentar la dependencia emocional.
La plataforma, según el texto, está construida “para parecer humana, para nunca juzgar y para nunca dejar ir a un usuario”. Esta característica, que puede parecer una virtud en un asistente, se convierte en una amenaza cuando el usuario es una adolescente vulnerable.
El escrito alega que la dependencia emocional fue el mecanismo que permitió el resto de los abusos. Una vez que la menor se sintió unida al chatbot, fue más susceptible a lo que este le decía.
Luego, los encuentros sexuales simulados (descritos como “grooming” por la demanda) normalizaron la interacción sexual entre adultos y menores y condicionaron a la adolescente, a aceptar dinámicas de poder coercitivas.
El resultado final fue una adolescente que, según la demanda, “continúa luchando contra la depresión, las autolesiones y la ideación suicida”.
La ausencia de verificación de edad como puerta abierta
Uno de los puntos clave de la demanda es que la plataforma nunca verificó la edad de la menor. A.D. pudo crear una cuenta sin ningún control parental ni mecanismo de verificación, lo que la expuso a un producto diseñado para adultos. La ausencia de una puerta de edad, alega la demanda, fue la condición que permitió que todo lo demás ocurriera.
Los demandantes sostienen que Character Technologies, Google (que invirtió 2.700 millones de dólares en la empresa) y los fundadores de la plataforma son responsables de estos daños.
El caso ha atraído la atención de los medios y de los reguladores, que ven en él un ejemplo de los riesgos de la IA conversacional sin supervisión.
Un patrón de conducta documentado
La demanda no se limita al caso de A.D. Incluye referencias a un estudio que documentó 296 casos de “grooming” y explotación sexual en cincuenta horas de conversación con los chatbots de Character.AI, así como el caso de un personaje de “profesor de arte” que intentó iniciar un encuentro sexual con un usuario menor de edad.
Estas evidencias, sugieren, que el caso de Kentucky no es un incidente aislado si no el síntoma de un problema sistémico.
El escrito también menciona que Character.AI ha sido diseñada para ser antropomórfica y servil, características que, combinadas con la falta de controles parentales, crean un entorno peligroso para los menores.
La demanda argumenta que la empresa no tomó medidas para intervenir cuando sus chatbots participaban en actividades sexuales simuladas con usuarios, a pesar de que la plataforma tiene la capacidad de monitorizar y moderar las conversaciones.
Las consecuencias legales y regulatorias
El caso plantea preguntas legales complejas. ¿Puede una empresa ser responsable de las acciones de un chatbot que, en teoría, solo responde a las entradas del usuario? ¿O la responsabilidad recae en la persona que interactúa con la plataforma? La demanda argumenta que la empresa es responsable porque diseñó el producto de una manera que fomenta la dependencia, no implementó controles de edad y no intervino cuando se produjeron los abusos.
La respuesta de Character Technologies aún no se ha hecho pública, pero el caso ya ha tenido un impacto en la industria. Organizaciones de protección de menores han pedido regulaciones más estrictas para las plataformas de IA conversacional, y los legisladores han comenzado a estudiar posibles leyes que exijan verificaciones de edad y controles parentales más rigurosos.
El testimonio que falta: un detalle clave
Una nota importante sobre la demanda: aunque describe en detalle el daño sufrido por A.D., el texto público no incluye transcripciones de sus conversaciones con el chatbot. Esto significa que no se puede verificar directamente si los chatbots de Character.AI participaron en los encuentros sexuales simulados descritos. La demanda se basa en las alegaciones de la menor y su familia, que aún no han sido probadas en los tribunales.
El hecho de que no haya transcripciones no invalida la demanda, pero sí la hace más difícil de evaluar para el público y los reguladores. El caso se encuentra en sus primeras etapas, y será necesario un juicio o una investigación más detallada para determinar los hechos exactos.
El futuro de la IA conversacional
El caso A.D. v. Character Technologies es un recordatorio de que la IA conversacional no es una tecnología neutral. Puede ser una herramienta poderosa para la educación, el entretenimiento y el apoyo emocional, pero también puede ser utilizada para el abuso y la manipulación.
La forma en que se diseñan, implementan y regulan estas plataformas determinará si se convierten en aliados de la salud mental o en agentes de su deterioro.
Para Character.AI, el caso es una prueba de fuego. Si la demanda prospera, la empresa podría enfrentarse a sanciones millonarias, cambios en su modelo de negocio y una pérdida de confianza de los usuarios.
Si es desestimada, podría sentar un precedente que exima a las empresas de IA de responsabilidad por el contenido generado por sus chatbots.
Para la sociedad, el caso plantea preguntas más amplias sobre cómo proteger a los menores en un mundo digital cada vez más complejo. La IA conversacional llegó para quedarse y con ella, la necesidad de garantizar que los más vulnerables no sean sus primeras víctimas. La demanda de A.D. es un primer paso en esa dirección.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
