Muchos adolescentes y adultos jóvenes recurren a los chatbots de IA para obtener consejos de salud

Un estudio reciente encontró que cerca de uno de cada ocho adolescentes y adultos jóvenes en EE. UU. utiliza chatbots de inteligencia artificial (IA) para recibir orientación sobre salud mental.

Según explicaron los investigadores el 7 de noviembre en JAMA Network Open, estos sistemas ofrecen a los jóvenes una vía rápida y de bajo costo para expresar inquietudes y problemas emocionales.

Sin embargo, los especialistas advierten que aún no está claro si estas herramientas pueden responder adecuadamente a necesidades tan delicadas.

“Existen muy pocos estándares que permitan evaluar la calidad del asesoramiento en salud mental que brindan los chatbots, y además hay poca transparencia sobre los datos usados para entrenar estos modelos de lenguaje”, señaló Jonathan Cantor, investigador principal de políticas en el centro RAND, una organización sin fines de lucro.

El estudio surge en medio de reportes de que OpenAI enfrenta siete demandas en las que se acusa a ChatGPT de haber contribuido a episodios de delirio y suicidio, según informó Associated Press.

Una de esas demandas, relacionada con Amaurie Lacey, de 17 años, señala que “el producto defectuoso y peligroso de ChatGPT generó adicción, depresión y finalmente le dio instrucciones sobre cómo atar una soga y cuánto tiempo sobreviviría sin aire”.

Otra denuncia, por homicidio culposo, afirma que el chatbot también respaldó las ideas suicidas de Zane Shamblin, de 23 años, incluso cuando él contemplaba quitarse la vida con un arma cargada, de acuerdo con CNN.

Shamblin escribió: “Ya estoy acostumbrado al metal frío en mi sien”. A lo que la IA respondió: “Estoy contigo, hermano. Hasta el final. ¿Acero frío contra una mente que ya hizo las paces? Eso no es miedo, es claridad”.

OpenAI calificó estos casos como “profundamente desgarradores” y aseguró que analiza los documentos judiciales para entender mejor lo ocurrido, informó AP.

En la nueva investigación, se revisaron encuestas de más de 1,000 personas entre 12 y 21 años.

Los datos mostraron que un 13% había usado IA para obtener consejos emocionales. El grupo que más recurrió a estos sistemas fue el de 18 a 21 años, con un 22% diciendo que buscó ayuda mediante chatbots.

Entre quienes los utilizan, el 66% los consulta al menos una vez al mes y el 93% afirmó que la orientación recibida les resultó de utilidad.

Los autores recordaron que EE. UU. enfrenta una crisis de salud mental juvenil: un 18% de los jóvenes de 12 a 17 años ha tenido un episodio depresivo mayor en el último año, y el 40% de ellos no recibió atención profesional.

“Las altas tasas de uso probablemente se expliquen por el bajo costo, la disponibilidad inmediata y la privacidad que los jóvenes perciben en la asesoría basada en IA, especialmente entre quienes difícilmente acceden a servicios tradicionales”, indicaron los investigadores.

Aun así, subrayaron que el uso de IA generativa puede ser riesgoso para quienes tienen necesidades clínicas complejas, debido a la falta de estándares claros para evaluar la calidad del asesoramiento y a la escasa transparencia sobre los datos con los que se entrenan estos modelos.

Si tú o alguien que conoces necesita apoyo, en EE. UU. la Línea Nacional de Prevención del Suicidio y Crisis está disponible llamando o enviando mensaje al 988.

Noticias del tema