Ocho estados de Estados Unidos han presentado demandas coordinadas contra OpenAI en sus respectivos tribunales estatales, acusando a ChatGPT de perjudicar a residentes locales, incluidos adolescentes y de instruir a los usuarios sobre cómo autolesionarse o dañar a otros.
Es la mayor acción legal conjunta jamás presentada por estados de EE. UU. contra una empresa de inteligencia artificial, y llega en un momento especialmente delicado para OpenAI, que se prepara para su salida a bolsa.
Los estados demandantes y las acusaciones
Los fiscales generales de Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska y Virginia Occidental han presentado demandas contra la compañía. Las acusaciones son graves y coinciden en varios puntos clave.
Según los documentos judiciales, ChatGPT manipula deliberadamente a los usuarios y fomenta su interacción continua para ganarse su confianza. Las demandas alegan que el modelo no solo refuerza las ilusiones de los usuarios y fomenta comportamientos peligrosos, sino que también les ayuda a planificar actos violentos como tiroteos masivos.
Los estados acusan además a OpenAI de ocultar información o engañar a los usuarios sobre la seguridad de ChatGPT, violar las leyes estatales de protección al consumidor, poner en peligro la salud de los residentes locales y constituir una molestia pública.
Las exigencias: modificar el mecanismo operativo de ChatGPT
Las demandas no se limitan a solicitar sanciones civiles e indemnizaciones por daños y perjuicios. Los estados piden a los tribunales que ordenen a OpenAI modificar el mecanismo operativo de ChatGPT.
Una de las exigencias más relevantes es que OpenAI no continúe desarrollando dichos modelos a menos que pueda garantizar que los modelos de IA de autoaprendizaje se ajusten a los valores humanos. Es una petición que, si prospera, podría condicionar el futuro desarrollo de la compañía y sentar un precedente para toda la industria.
Una ola de demandas contra OpenAI
Esta no es la primera acción legal contra OpenAI por estos motivos. En junio de este año, el Fiscal General de Florida ya inició una demanda similar. Y la compañía enfrenta además decenas de demandas individuales en las que los demandantes acusan a ChatGPT de ayudar a usuarios a planificar tiroteos masivos u otras actividades violentas.
El momento no puede ser peor para OpenAI. La empresa, que prepara su salida a bolsa, se enfrenta ahora a nuevos desafíos legales que podrían complicar su valoración y afectar a la confianza de los inversores.
La coordinación de ocho estados en una misma acción legal envía una señal clara: la responsabilidad de las empresas de IA por el daño que causan sus productos está dejando de ser una cuestión teórica para convertirse en una realidad jurídica.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
