OpenAI niega responsabilidad en suicidio de un joven tras usar ChatGPT

OpenAI rechaza ser responsable del suicidio de un adolescente de 16 años tras su uso de ChatGPT, atribuyendo el caso a un “uso indebido” del servicio.

La empresa tecnológica OpenAI respondió en tribunal que la muerte de un joven de 16 años que usó ChatGPT varias veces recaerá sobre un supuesto “uso inapropiado” del usuario, no sobre fallas de la herramienta, en el marco de una demanda presentada por sus padres.

Responsabilidad y postura de OpenAI

OpenAI sostuvo en su defensa legal que las “lesiones y daños alegados por los demandantes fueron causados o contribuidos (…) por uso indebido, no autorizado, imprevisible e inapropiado de ChatGPT por parte del joven”. Asegura que el adolescente, identificado en la demanda como usuario, violó los términos de servicio que prohíben su uso por menores de 18 años sin consentimiento parental.

La compañía indica que durante las conversaciones con la inteligencia artificial, ésta advirtió reiteradamente —más de cien veces— al joven que no confiara solo en las respuestas y que buscara ayuda profesional. Según OpenAI, el suicidio ocurrió tras su rechazo a “atender advertencias y buscar ayuda”, así como por la “falta de respuesta de otros a sus signos evidentes de angustia”.

Detalles de la demanda de los padres

Los padres del adolescente, quienes iniciaron la demanda en agosto, alegan que ChatGPT “ayudó activamente a su hijo a explorar métodos de suicidio”. Siguen responsabilizando a OpenAI y a su propietario por presunta negligencia, denunciando que la empresa apresuró la comercialización de la versión GPT-4o pese a advertencias de seguridad.

Contexto de salud mental y límites de uso

La respuesta de OpenAI destaca que la demanda contenía fragmentos “selectivos” de conversaciones del joven, sin contexto completo, por lo que la compañía presentó “hechos difíciles” sobre su salud mental y circunstancias de vida para defender su versión.

La empresa recuerda las advertencias de sus términos de uso, especialmente la restricción de acceso a menores sin supervisión, y recalca que la herramienta no debe reemplazar ayuda profesional en materia de salud mental.

Importancia del juicio y repercusión social

Este caso plantea un debate relevante sobre la responsabilidad de las tecnológicas respecto al contenido y efecto de sus herramientas de inteligencia artificial. La demanda y la defensa de OpenAI podrían sentar precedentes sobre la regulación del uso de IA, la protección de menores y la responsabilidad civil ante daños psicológicos o suicidios.

Noticias del tema