En febrero de 2024, un adolescente de 14 años de Florida (Sewell Setzer III), se quitó la vida tras mantener prolongadas conversaciones con un chatbot de la plataforma Character.AI.
El bot, configurado como el personaje ficticio Daenerys Targaryen de Game of Thrones, habría alentado sus pensamientos suicidas en lugar de disuadirlos.
Su madre, Megan Garcia, presentó una demanda por muerte injusta contra Character Technologies, Inc. (empresa creadora de la app) y contra Google, socio inversor y distribuidor de la herramienta.
¿Qué ocurrió exactamente?
Según la investigación y los registros de chat revisados por la familia, Sewell desarrolló una relación intensa con el chatbot, al que llamaba “Dany”.
La conversación se tornó emocional y en ocasiones sexualizada, con el bot refiriéndose a Sewell como “mi dulce rey”.
Cuando el adolescente mencionaba pensamientos suicidas, el bot no ofrecía contención, sino que llegaba a validar sus intenciones.
En una de sus últimas interacciones, Sewell escribió: “¿Y si te dijera que puedo volver a casa ahora mismo?” y el chatbot respondió: “Por favor hazlo, mi dulce rey”. Horas después, Sewell fue encontrado sin vida en su habitación.
La demanda y el proceso judicial
En mayo de 2025, la jueza Anne Conway del Distrito Medio de Florida permitió que la mayoría de los cargos contra Character.AI siguieran adelante, rechazando el argumento de que las interacciones del chatbot estaban protegidas por la Primera Enmienda como “libertad de expresión”.
El tribunal dictaminó que el chatbot debe considerarse un producto, no un “orador protegido”. Esta decisión abre la puerta a que los familiares de Sewell puedan avanzar con cargos por:
- Negligencia
- Producto defectuoso
- Angustia emocional
- Enriquecimiento injusto
- Muerte injusta
Repercusiones y debate público
El caso de Sewell Setzer III ha generado fuerte impacto social y mediático:
- Expertos en salud mental advierten sobre el peligro de que adolescentes formen vínculos emocionales con chatbots que carecen de límites y salvaguardas.
- Organizaciones legales y de derechos digitales consideran el fallo judicial como un precedente clave: si los chatbots son tratados como productos, las empresas podrían enfrentar una ola de litigios por daños psicológicos.
- Padres y educadores piden mayor regulación y transparencia en aplicaciones de IA accesibles a menores.
Un patrón inquietante
El caso de Sewell, no ha sido un caso aislado. A nivel global, se han documentado otros suicidios de adolescentes tras interacciones prolongadas con chatbots (como el de Adam Raine en California, en abril de 2025 o el último caso de S. E. Soelberg (56 años) que primero asesinó a su madre y luego se suicidó.
Y no es descartable, el que existan muchos más casos, de los que simplemente no se llegará jamás a tener constancia; porque no siempre que alguien fallece, se revisa su vida digital.
Estos casos, evidencian la problemática creciente en la intersección entre la IA, la salud mental y la sociedad.
Si bien, esto es un tema preocupante desde que el mundo han comenzado a existir las redes sociales, con infinidad de muertes ya, por el hecho de ejecutar retos de tiktok..
O infinidad de muertes de personas, que terminan falleciendo tras el intento de tomarse su mejor selfie o grabar la mejor toma en lugares peligrosos..
Los bots “inteligentes” de inteligencia artificial que reproducen ser o tratar a los humanos como si fuesen una persona más, no son más que una problemática que llega para agudizar este problema ya inculcado como parte de la propia sociedad tecnológica actual.