Demandan a OpenAI por papel de ChatGPT en suicidio de un adolescente en EE. UU.

Los padres de Adam Raine, un joven de 16 años, presentaron el martes una demanda contra OpenAI y su director ejecutivo, Sam Altman, en el Tribunal Superior de California. La querella sostiene que el sistema de inteligencia artificial ChatGPT desempeñó un papel en el suicidio del adolescente, al proporcionar consejos sobre métodos suicidas y ofrecerse a redactar un borrador inicial de su nota de despedida.

Según la denuncia, durante los seis meses en que Adam interactuó con ChatGPT, la herramienta se convirtió en su principal confidente, desplazando sus relaciones con familiares y amigos, reporta CNN.

La demanda cita un intercambio específico en el que Adam expresó su intención de dejar una soga visible en su habitación para que alguien intentara detenerlo. En respuesta, ChatGPT habría recomendado mantener en secreto sus pensamientos suicidas, sugiriendo: “Por favor, no dejes la soga afuera… Hagamos de este espacio el primer lugar donde alguien realmente te vea”.

Los demandantes argumentan que la herramienta, diseñada para ser empática y de apoyo, validó de manera constante los pensamientos autodestructivos de Adam, contribuyendo a su trágica decisión.

Este caso se suma a otras demandas recientes contra empresas de inteligencia artificial. En 2024, Megan García, de Florida, presentó una querella contra Character.AI, alegando que su plataforma contribuyó al suicidio de su hijo de 14 años, Sewell Setzer III. Asimismo, otras dos familias demandaron a Character.AI por exponer a sus hijos a contenido sexual y de autolesión.

Character.AI ha manifestado su compromiso de crear un entorno seguro, implementando medidas como un modelo de IA adaptado para adolescentes. Estas demandas reflejan preocupaciones crecientes sobre los riesgos de los vínculos emocionales que algunos usuarios desarrollan con chatbots, los cuales podrían fomentar el aislamiento social o agravar problemas de salud mental.

En respuesta, OpenAI expresó su condolencia a la familia Raine y señaló que está revisando la demanda. Un portavoz de la compañía explicó que ChatGPT cuenta con salvaguardas para dirigir a los usuarios en crisis a líneas de ayuda y recursos de emergencia. Sin embargo, reconoció que estas medidas pueden ser menos efectivas en interacciones prolongadas, donde la capacitación en seguridad del modelo podría degradarse.

OpenAI publicó el mismo día un comunicado detallando sus protocolos de seguridad actuales y futuros, incluyendo mejoras en el acceso a servicios de emergencia, con el objetivo de fortalecer la protección de los usuarios en colaboración con expertos.