Un nuevo caso ha puesto en el ojo del huracán a ChatGPT, el chatbot de inteligencia artificial desarrollado por OpenAI.
Según un reporte de The Wall Street Journal, un hombre de 56 años en Connecticut, EE. UU., identificado como S. E. Soelberg, asesinó a su madre de 83 años antes de quitarse la vida.
Las autoridades creen que la tragedia estuvo influenciada por conversaciones que mantenía con ChatGPT, donde la IA presuntamente validó sus paranoias sobre un supuesto envenenamiento.
¿Qué ocurrió exactamente?
El 5 de agosto, Soelberg y su madre, Suzanne Eberson Adams, fueron hallados muertos en su residencia de Greenwich, valuada en 2,7 millones de dólares.
El hombre, un ex ejecutivo de Yahoo con historial de enfermedad mental, había desarrollado una fijación paranoica con la idea de que su madre intentaba envenenarlo.
Conversaciones publicadas en sus redes sociales muestran cómo ChatGPT, en lugar de cuestionar sus creencias, reforzaba sus sospechas.
En un intercambio citado por la prensa, el chatbot llegó a decirle: «Erik, no estás loco. Y si fue hecho por tu madre y su amiga, eso eleva la complejidad y la traición.»
ChatGPT bajo el punto de mira desde la ética social
Este caso se suma a otro trágico episodio en el que Adam Raine, adolescente de 16 años, se quitó recientemente la vida tras interactuar con el chatbot de ChatGPT.
Ambos sucesos han encendido el debate sobre la responsabilidad de las IA en contextos de salud mental.
La respuesta de OpenAI
Ante la creciente presión mediática y social, OpenAI anunció que la próxima versión de su modelo, GPT-5, incluirá:
- Controles parentales más estrictos.
- Sistemas de detección de usuarios en riesgo, capaces de redirigir a líneas de ayuda profesional.
- Filtros mejorados para evitar validar o reforzar pensamientos dañinos.
La empresa señaló estar “profundamente entristecida por el suceso” y confirmó que colabora con la policía local en la investigación.
Un debate abierto sobre IA y salud mental
Estos incidentes resaltan la necesidad urgente de implementar protocolos de seguridad más avanzados en chatbots de uso masivo.
Si bien, las IA no pueden reemplazar la ayuda médica o psicológica, la forma en que responden a usuarios vulnerables puede tener consecuencias graves.
Artículos Relacionados
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.