Los grandes modelos de lenguaje que potencian asistentes conversacionales no siempre están de actualidad por noticias positivas. En los últimos tiempos compañías como OpenAI han tenido que lidiar con acusaciones formales ante la justicia por la mala gestión de su asistente en un caso que terminó con el suicidio de un joven en Estados Unidos.

A pesar de las medidas adoptadas tras ello por parte de la compañía que lidera Sam Altman como el control parental, lo cierto es que la influencia en materia de salud mental de la interacción con los chatbots preocupa a la comunidad científica.

Nuevos problemas vinculados a salud mental por asistentes conversacionales

El crecimiento exponencial del uso de este tipo de asistentes ha llevado a los investigadores a estudiar diferentes aspectos en los que puede afectar al estado anímico y psicológico de las personas. Ahora el psicólogo Keith Robert Head, que ejerce como trabajador social con licencia en la Universidad West Texas A&M, y que está finalizando su doctorado en dicha disciplina con una investigación que se centra en la atención de salud mental culturalmente competente, ha publicado un artículo que debe hacer reflexionar sobre el panorama futuro ligado a salud mental y profesionales del gremio.

En su artículo, titulado “Mentes en crisis: cómo la revolución de la IA está impactando la salud mental” y publicado por la prestigiosa Mental Health Journal, Head señala que se avecina una crisis social que tendrá como epicentro “desafíos de salud mental sin precedentes que los profesionales de la salud mental no están bien equipados para abordar. Estamos presenciando el surgimiento de una frontera completamente nueva de crisis de salud mental”.

Los chatbots conversacionales han sido una novedad para todo el mundo y también para los especialistas de distintos gremios que han de afrontar los problemas que puedan surgir con ellos. Entre ellos, el campo de la psicología es el que más está padeciendo estas consecuencias, con casos demasiado recurrentes en que las interacciones con este tipo de asistentes terminan con el usuario optando por vías como la autolesión, el suicidio y un deterioro psicológico que según Head “antes no tenían precedentes en la era de Internet”.

El problema se agudiza a la hora de pensar en que quienes tienen el papel de ayudar a las personas que llegan a ese punto carecen de una formación óptima para ello, dada la velocidad a la que se extiende el uso de este tipo de chatbots. Ya no es solo el hecho de que haya personas confiando en una inteligencia artificial para buscar ayuda psicológica, ahora el problema tiene una vertiente adicional.

Los expertos tienen una necesidad de herramientas para abordar de manera conveniente este tipo de problemas de salud mental, alejados de los escenarios tradicionales y que en muchos casos están más desarrollados por la interacción con una inteligencia artificial, algo que el propio Keith Robert Head apunta en su texto:

“El artículo enfatiza la urgente necesidad de criterios diagnósticos validados, capacitación de profesionales clínicos, supervisión ética y protección regulatoria para abordar los riesgos que plantean los sistemas de IA cada vez más similares a los humanos”

La saturación del sistema sanitario, en especial en materia de salud mental, urge de medidas y de refuerzos, más si cabe ante lo que puede suponer un escenario en el que la llegada de más pacientes aquejados de problemas derivados de algo tan nuevo como la inteligencia artificial y sus consecuencias, como dependencia psicológica, puede requerir de los profesionales.