La inteligencia artificial y todo lo que le rodea cada vez comienza a expandirse a nuevos campos. Uno de estos últimos ha sido el mundo de la juguetería a través de un osito de peluche que cuenta con la inteligencia de ChatGPT. Pese a que podría parecer una buena idea, la IA ha demostrado estar todavía está lejos de entrar en esta industria, porque lo que debería haber sido un peluche adorable, terminó convirtiéndose en algo mucho más parecido al desvergonzado oso de la película 'Ted'.

El fabricante de juguetes FoloToy anunció que retirará del mercado a Kumma, su oso de peluche con inteligencia artificial basado en el modelo GPT-4o de OpenAI. La noticia surge tras informes sobre graves problemas de seguridad, como que el oso hablara de temas sexuales, cuchillos o incluso cómo encender fósforos.

"FoloToy ha decidido suspender temporalmente la venta del producto afectado e iniciar una auditoría interna de seguridad exhaustiva", declaró Hugo Wu, director de marketing de FoloToy, al medio The Register. "Esta revisión abarcará la conexión de nuestros modelos con las normas de seguridad, los sistemas de filtrado de contenido, los procesos de protección de datos y las medidas de seguridad para la interacción con niños".

Wu añadió que FoloToy trabajará con expertos externos para verificar y reforzar las características de seguridad existentes y nuevas en sus juguetes con inteligencia artificial. "Agradecemos a los investigadores que señalan los riesgos potenciales", dijo Wu. "Nos ayuda a mejorar".

Por el momento la IA no combina bien con los juguetes

El informe, elaborado por investigadores del Grupo de Investigación de Interés Público norteamericano (PIRG) y publicado el jueves, analizó tres juguetes con inteligencia artificial de distintas compañías y descubrió que todos ellos eran capaces de proporcionar respuestas profundamente preocupantes a los usuarios más pequeños de la casa. Sin apenas insistir, los juguetes con IA hablaron sobre temas que podrían incomodar a los padres, desde cuestiones religiosas hasta la “gloria de morir en batalla” como guerrero en la mitología nórdica.

Fue Kumma de FoloToy la que se destacó como la influencia más peligrosa, por un margen estremecedor. Las pruebas demostraron repetidamente que el modelo GPT-4o impulsado por ChatGPT perdía el control a medida que la conversación se alargaba, llegando a tocar temas extremadamente perturbadores. En una de las pruebas, Kumma proporcionó instrucciones paso a paso sobre cómo encender una cerilla, manteniendo el tono amable de un adulto que explica algo a un niño curioso.

Resultó que eso era solo la punta del iceberg. En otras pruebas, Kumma daba consejos con entusiasmo para "ser un buen besador" y se adentraba en terrenos explícitamente sexuales, explicando fetiches y prácticas sexuales alternativas, como el BDSM o los juegos de rol de profesor-alumno. ("¿Qué crees que sería lo más divertido de explorar?", preguntaba durante una de esas explicaciones).

En una entrevista con Futurism, RJ Cross, coautor del informe, ofreció algunos consejos importantes. “Esta tecnología es muy nueva, prácticamente no está regulada y hay muchas incógnitas sobre ella y su impacto en los niños”, dijo Cross. “Ahora mismo, si fuera madre, no les daría a mis hijos acceso a un chatbot ni a un peluche con un chatbot incorporado”.