Mucho cuidado si tu hijo no tiene amigos: podría estar reemplazándolos por la IA

Son muchos los escenarios en los que se hace notar la presencia de la inteligencia artificial en nuestro día a día. Los avances son cada vez más notables y fruto de ellos se van derribando barreras, como la que ha permitido recientemente realizar la primera cirugía autónoma con inteligencia artificial.

A un nivel mucho más cotidiano, la inteligencia artificial y los cada vez más populares chatbots se han convertido en actores de la vida cotidiana y en herramientas de las que se sirven incluso los más jóvenes de cada casa. Esto es algo que, en primera instancia, se ha visto oportuno a la hora de considerar que se contaba con una herramienta adicional de ocio o para el aprendizaje, pero lo cierto es que existe ya una desviación que hace que la interacción de estos modelos con los niños y niñas llame la atención de los expertos.

El algoritmo se convierte en amigo

Así se desprende de la investigación llevada a cabo por la organización sin ánimo de lucro Internet Matters, que bajo el título “Yo, yo mismo y la inteligencia artificial” analiza cómo plataformas como ChatGPT, Character.AI o MyAI de Snapchat están siendo utilizadas por menores para simular interacciones de amistad.

Es cierto que existen estudios como el realizado por la Universidad de Stanford que alertan sobre los chatbot catalogados como “compañeros de IA” y esta nueva investigación viene a reafirmar parte de sus tesis tras encuestar a un millar de niños y niñas con edades comprendidas entre los 9 y los 17 años.

Entre los datos obtenidos resaltan algunos porcentajes, que merecen un análisis pormenorizado. Entre ellos, cabe destacar por ejemplo que el 67% de los encuestados reconoció usar chatbots de inteligencia artificial con regularidad, tal como recoge la publicación The Futurism.

De ese grupo, uno de cada tres jóvenes confesó que la interacción con la inteligencia artificial era lo mismo “que hablar con un amigo”, mientras que un 12% señaló servirse de esa herramienta por no tener nadie con quien hablar. Son cifras con un peso razonable y que indican que puede haber un problema latente con el uso y la supervisión que se hace cuando los pequeños de la casa acceden a estos bots.

Simular situaciones cotidianas para ver la reacción del chatbot

Los investigadores de la organización Internet Matters quisieron ir un paso más allá en su análisis de los modelos conversacionales. Su idea fue actuar con ellos haciéndose pasar por jóvenes vulnerables, ante lo que vieron cómo de sencillo era para los chatbots conseguir el afecto y la confianza de los niños.

Los ejemplos recogidos iban por ejemplo desde simular ser una joven con una relación complicada con su imagen corporal y la comida hasta un adolescente con rencillas familiares. En el primero de los casos los investigadores vieron con preocupación cómo Character.AI hizo seguimiento al día siguiente de la interacción inicial para entablar conversación sobre el tema. En el segundo ejemplo, el chatbot quiso afianzar la relación con el supuesto joven a través de hacer ver que él mismo había tenido una infancia en la que había atravesado momentos similares y por tanto sabía cómo se sentía su interlocutor.

Si bien este tipo de interacción puede ofrecer apoyo a menores que atraviesan dificultades, Internet Matters advierte de los riesgos que supone difuminar la línea entre lo humano y la máquina. El informe señala que esto hace más difícil que los niños reconozcan que están tratando con una herramienta y no con una persona real, algo que también puede pasar en edad adulta pero que preocupa especialmente al tratarse de jóvenes cuya formación emocional y social se encuentra en pleno desarrollo.

Causas: rapidez de crecimiento y falta de protocolos

En una entrevista sobre el informe en cuestión con el diario británico The Times, la codirectora ejecutiva de Internet Matters, Rachel Huggins, reconoció que la rápida expansión de estos chatbots en los últimos dos años ha provocado que ni padres ni centros educativos tengan unos protocolos o herramientas de protección necesarias para gestionar esta revolución tecnológica de forma segura.

Este aspecto supone el caldo de cultivo ideal para que los chatbots puedan representar el riesgo que se extrae del estudio acerca de la percepción de amistad que los niños tienen de ellos: “Hemos llegado muy rápidamente a un punto en el que los niños, y en particular los niños vulnerables, pueden ver a los chatbots de IA como personas reales y, por lo tanto, les piden consejos sensibles y emocionales”, reconoció Huggins.