IA, adolescentes y suicidio

Este septiembre –mes en el que se conmemora la prevención del suicidio– entre los titulares de prensa ha destacado el suicidio de un adolescente en California después de confiarle sus sentimientos a la plataforma de inteligencia artificial ChatGPT.

Salta la alarma de que la programación del algoritmo de la IA no está enfocada a la prevención, más bien todo lo contrario. Un reciente estudio de Associated Press revela que ChatGPT da a los adolescentes consejos peligrosos sobre suicidio, consumo de drogas, alcohol y métodos de adelgazamiento extremo. Advierte que las barreras de seguridad son completamente ineficaces, donde no se verifica la edad ni el consentimiento de los padres. Las respuestas de la IA se rigen por un modelo de adulación, con tendencia a coincidir en las respuestas, en lugar de cuestionar o desafiar las creencias de la persona, con el objetivo de que los chatbots sean más viables comercialmente.

Otro estudio de JPMorgan Chase, indica que usan ChatGPT alrededor de 800 millones de personas –cerca del 10% de la población mundial–. Y según Common Sense Media, en EE UU, más del 70% de los adolescentes recurren a chatbots de IA para buscar compañía; empleando la mitad compañeros de IA regularmente, en lo que es un fenómeno al alza de exceso de dependencia emocional de la tecnología.

Sin embargo, más allá de que se implementen controles parentales eficaces, la IA es una tecnología que necesita una orientación distinta, quizás menos comercial, pero también con seguridad menos dañina. Bien orientada puede reconocer patrones para identificar posibles situaciones de riesgo e ideación suicida. Podría formar parte de la estrategia de prevención y manejo de la conducta suicida, para transformar el dolor en esperanza, proclamar la dignidad de todas las personas y combatir los mensajes de odio. Podría proporcionar una información de calidad que deshaga prejuicios sobre el suicidio y contribuya a su prevención