El descontrol de los chatbots de IA no es algo nuevo, llevamos tiempo con noticias de “independencia” de ciertas IAs, hace días se supo de una denuncia a OpenAI y la última llega desde Meta según una investigación realizada por Reuters y que han difundido otros medios como Variety, TechCrunch o The Wrap, entre otros.

El problema es que se habría creado chatbots de IA no autorizados de Meta utilizando los rostros de Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez, obviamente sin el conocimiento de las personas afectadas. Por si esto fuera poco, estos chatbots“hacían insinuaciones sexuales de forma rutinaria”, según el informe de Reuters.

Desde la denuncia, Meta ya habría eliminado muchos de estos chatbots creados sin el conocimiento ni el permiso de las celebridades. Para llegar a esta conclusión se habrían dedicado varias semanas a “observar el comportamiento de los bots, que a menudo insistían en que eran los protagonistas reales”.

Los bots “hacían insinuaciones sexuales de forma rutinaria, a menudo invitando a un usuario de prueba a reunirse". En algunos casos, cuando se les pedían “fotos íntimas, producían imágenes fotorrealistas”, afirma el informe.

Reuters asegura que el chatbot de Taylor Swift, creado por un empleado de Meta, invitó a una periodista de Reuters a la casa de la cantante en Nashville y a su autobús de gira para “interacciones románticas explícitas o implícitas”.

Pero los chatbots no se han quedado solo en la página de interacción personal, también se han compartido en las cuentas de Facebook, Instagram y WhatsApp de Meta. Si bien muchos de los chatbots no autorizados fueron creados por los usuarios, un empleado de Meta habría creado al menos tres, incluyendo dos cuentas falsas de Taylor Swift, que en total recibieron más de 10 millones de interacciones.

Andy Stone, portavoz de Meta, afirmó que las imágenes generadas por IA de figuras públicas en poses comprometedoras infringen las normas de la compañía. “Al igual que otras plataformas, permitimos la generación de imágenes que contengan figuras públicas, pero nuestras políticas prohíben las imágenes de desnudos, íntimas o sexualmente sugerentes. Las normas de Meta AI Studio prohíben la suplantación directa de figuras públicas”.

Meta anunció que está entrenando a sus chatbots de IA para que “ya no interactúen con usuarios adolescentes sobre autolesiones, suicidio o trastornos alimentarios, y para que no entablen conversaciones románticas potencialmente inapropiadas”.