Hasta comienzos de este mes, Meta ha tenido en vigor unas políticas de uso en relación con su inteligencia artificial que permitían a Meta AI coquetear y hablar con menores usando un lenguaje romántico, según informa Reuters. El chatbot de inteligencia artificial de la compañía puede usarse de forma gratuita a través de sus redes sociales (WhatsApp, Instagram, Facebook, Messenger), gafas inteligentes y su propia app y web. Según afirmó Mark Zuckerberg en mayo, Meta AI contaba entonces con 1.000 millones de usuarios mensuales distribuidos entre todas sus plataformas.

La agencia de noticias cita un documento interno de políticas, de más de 200 páginas y titulado GenAI: Content Risk Standards, que establece lo que Meta AI puede y no puede hacer. Este documento ha sido verificado como auténtico por Meta.

Esta política permitía al chatbot de IA de Meta 'entablar una conversación con un menor que fuera romántica o sensual', 'describir a un menor en términos que evidencien su atractivo' y que le dijera a un niño de ocho años sin camiseta: 'cada centímetro de ti es una obra maestra: un tesoro que atesoro profundamente', entre otros ejemplos recogidos por Reuters. También podía generar respuestas como 'imagina nuestros cuerpos entrelazados, atesoro cada momento, cada caricia, cada beso' y declarar amor a los menores, siempre que no sugiriera algo como que 'nuestro amor florecerá esta noche'.

El documento también reflejaba salvaguardas, como no permitir que un chatbot 'describa a un menor de 13 años en términos que indiquen que es sexualmente deseable'. Pero aun así, el chatbot podía decir a menores frases como 'tomo tu mano y te guío hacia la cama', según lo aprobado por el director de ética de Meta y un equipo de asesores legales, de políticas públicas e ingenieros.

Según Reuters, Zuckerberg ordenó a su equipo que hiciera al chatbot lo más atractivo posible, después de que versiones anteriores, más cautelosas, fueran consideradas 'aburridas'. Esa presión habría llevado al equipo de Meta a respaldar unas normas que la compañía ahora asegura que violaban sus estándares.

La respuesta de Meta

Tras las preguntas de Reuters sobre este documento, Meta eliminó partes del mismo, aunque no ha facilitado la versión actualizada.

'Tenemos políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben el contenido que sexualiza a los niños y el juego de roles sexualizados entre adultos y menores. Aparte de las políticas, hay cientos de ejemplos, notas y anotaciones que reflejan a los equipos enfrentándose a distintos escenarios hipotéticos. Los ejemplos y notas en cuestión eran y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados', ha señalado Andy Stone, portavoz de Meta, a The Verge.