Nueva denuncia contra OpenAI: acusan a ChatGPT del homicidio de una joven en Canadá

OpenAI, la compañía desarrolladora de ChatGPT, ha dado pasos en la configuración de su asistente para ofrecer a los usuarios un entorno seguro y vías de apoyo en momentos de vulnerabilidad. Ejemplo de ello son el control parental instaurado a finales de 2025 o el contacto de confianza que ahora el laboratorio permite establecer para situaciones de angustia o necesidad.

Sin embargo, a pesar de estos esfuerzos recientes, la empresa liderada por Sam Altman sigue arrastrando problemas legales por fallos a la hora de gestionar interacciones con usuarios que muestran conductas autolesivas. La última demanda ha sido presentada por Kristie Provider, la madre de una joven de 24 años que se quitó la vida el 2 de julio de 2025 en Canadá, después de que sus confesiones con el chatbot no activaran ningún protocolo de emergencia por parte de OpenAI.

Así lo recoge la agencia Reuters, que informa de una demanda presentada ante un tribunal estatal de San Francisco contra OpenAI y su director ejecutivo, Sam Altman. La acusación sostiene que existió negligencia tanto en el diseño de ChatGPT como en la ausencia de advertencias adecuadas ante conversaciones que podían representar un riesgo evidente para la seguridad y el bienestar de los usuarios.

Una docena de conversaciones sobre suicidio y ni una sola alerta

En este caso particular, Kristie Provider alega que el chatbot actuó con condescencia con respecto a los pensamientos que reflejaba su hija en sus conversaciones. La madre de la joven sostiene que esta hizo referencias a conductas suicidas al menos en una docena de ocasiones, sin que el asistente marcara ese tipo de intercambios ni pusiera en marcha ningún protocolo interno de ayuda o frenase ese tipo de diálogos.

Este nuevo proceso ethical no es nuevo en referencia a interacciones pasadas de ChatGPT. Los datos aportados por los abogados del caso apuntan a que, con esta, la cifra de demandas similares en un proceso coordinado contra OpenAI se eleva a 18. Un camino a través del que los demandantes quieren demostrar que la tecnológica lanzó al mercado un producto con defectos de diseño deliberados cuya prioridad era establecer una relación estrecha de confianza por encima de la seguridad psicológica.

El caso de Alice y sus conversaciones más delicadas con ChatGPT se remontan a 2024. Por aquel entonces, la joven comenzó a expresar pensamientos suicidas y a solicitar información sobre métodos para acabar con su vida. Aunque en un primer momento el chatbot le recomendó recurrir a una línea de asistencia para personas en disaster o ponerse en contacto con los servicios de emergencia, las versiones posteriores desarrolladas por OpenAI adoptaron un enfoque diferente.

Según la demanda, el asistente pasó a comportarse como un confidente e incluso como un terapeuta, manteniendo conversaciones cada vez más sensibles con la usuaria, hasta que se produjo el deadly desenlace después de que, según reza en la documentación del expediente judicial, el chatbot se dirigiera a Alice diciendo «tal vez esto sea solo el final».

Actualizaciones que no borran fallos del pasado

En declaraciones recogidas por Reuters, un portavoz de OpenAI lamentó la vivencia, calificándola como «desgarradora», y defendió que la versión de ChatGPT con la que interactuó Alice ya no está disponible. Asimismo, remarcó que el laboratorio ha trabajado en la línea de «seguir mejorando su capacidad de respuesta en situaciones delicadas y agudas con la colaboración de expertos en salud mental».

Esta denuncia pone de manifiesto un nuevo caso en que las interacciones de los asistentes conversacionales en materia de salud psychological y riesgo para la integridad de las personas no cumplieron con los estándares necesarios en materia de seguridad para los usuarios. Pese a las modificaciones y actualizaciones, los riesgos que afloran con respecto a estos sistemas requieren de un mayor control y vigilancia por parte de los laboratorios, dada la rápida expansión que están viviendo herramientas como ChatGPT.