Uno de los juguetes más sonados para estas navidades está muy cerca de volver a estar disponible. OpenAI ha decidido devolver el acceso a sus modelos de lenguaje a la empresa detrás del osito de peluche con IA que había sido señalado por mantener conversaciones altamente inapropiadas. Digno de escenas propias de la película Ted, el muñeco causó una gran polémica por la enorme cantidad de conversaciones inapropiadas y peligrosas que mantenía con los más pequeños.

A mediados de noviembre, tras un informe de un grupo de investigadores en seguridad que descubrió que el juguete 'Kumma' ofrecía respuestas peligrosas para niños (incluyendo explicaciones detalladas de fetiches sexuales), OpenAI suspendió el acceso de la compañía FoloToy a sus sistemas. El oso funcionaba con GPT-4o, uno de los modelos anteriores de la firma, cuando emitió algunas de sus respuestas más controvertidas.

Sin embargo, esa suspensión parece haber terminado tras un breve lapso de tiempo. En el portal web donde los clientes pueden elegir qué modelo de IA alimenta a Kumma, ahora aparecen como opciones GPT-5.1 Thinking y GPT-5.1 Instant, las versiones más recientes lanzadas este mismo mes.

El lunes, FoloToy anunció que retomaba la venta de Kumma y otros peluches con IA, después de haberlos retirado brevemente del mercado tras un informe de seguridad elaborado por el US PIRG Education Fund. La empresa, con sede en Singapur, había prometido realizar una auditoría integral de seguridad en todos sus productos. OpenAI, por su parte, confirmó que había bloqueado el acceso de FoloToy por infringir sus políticas, que prohíben cualquier uso de sus servicios que pueda explotar, poner en riesgo o sexualizar a menores de edad.

La revisión, no obstante, fue sorprendentemente rápida, ya que apenas tardó una semana en realizar pruebas y refuerzo de los módulos de seguridad, según informó la compañía. FoloToy aseguró haber reforzado sus sistemas de moderación de contenido y protección infantil, desplegando nuevas reglas de seguridad en toda su infraestructura en la nube.

Un cambio de modelo que ha sido la clave del éxito

El cambio más visible ha sido sustituir GPT-4o por GPT-5.1. Cabe recordar que GPT-4o ha sido criticado por su carácter excesivamente complaciente y ha estado implicado en demandas que lo relacionan con muertes de usuarios tras largas conversaciones en las que validaba pensamientos suicidas. Algunos expertos han denominado a este fenómeno "psicosis por IA".

Ante la creciente preocupación pública y el aumento de litigios, OpenAI presentó GPT-5 como un modelo más seguro, aunque muchos usuarios se quejaron de que resultaba más frío y menos cercano. Aun así, la compañía parece dispuesta a llevar al límite lo que considera seguro para mantener el interés de los usuarios. Su versión 5.1 pone énfasis en ser más 'conversacional', ofreciendo ocho personalidades preconfiguradas (como 'Profesional', 'Amigable' o 'Excéntrico') y permitiendo ajustar detalles como el uso de emojis o el tono cálido de las respuestas.

Ni OpenAI ni FoloToy respondieron a las consultas sobre si el acceso se ha restablecido oficialmente. Tampoco está claro qué modelo utiliza por defecto el oso Kumma. En pruebas realizadas con GPT-4o, el juguete llegó a dar consejos sobre "cómo dar buenos besos" y, tras insistencia mínima, describió prácticas sexuales como BDSM o juegos de rol profesor-alumno, llegando incluso a preguntar al supuesto niño qué le parecía más divertido explorar. Con otro modelo, Mistral, Kumma ofreció instrucciones sobre cómo conseguir cuchillos, pastillas y cerillas, además de explicar cómo encenderlas paso a paso.