OpenAI desactualiza ChatGPT porque puede resultar ‘incómodo, inquietante y causar angustia’

Los modelos de lenguaje de OpenAI, además de las grandes actualizaciones, tienen las pequeñas, que no suponen un cambio de nomenclatura, pero pueden llegar a ser bastante significativas. Es lo que sucedió en marzo, cuando GPT-4o, el modelo predeterminado de ChatGPT, ganó un generador de imágenes nativo que ha sido muy bien recibido. La semana pasada, sin embargo, sucedió lo contrario. OpenAI actualizó el mismo modelo, que ahora ha revertido a la versión anterior porque ‘era demasiado halagadora o agradable, a menudo descrita como aduladora’. Con esta desactualización, ChatGPT vuelve a tener ‘un comportamiento más equilibrado’.

El problema es la adulación

Según explica la compañía en su blog, la última actualización consistió en una serie de ajustes en la personalidad predeterminada del modelo GPT-4o ‘para que se sienta más intuitivo y efectivo en una variedad de tareas’.

Sin embargo, el resultado no fue el esperado y observaron cómo ‘GPT-4o se inclinó hacia respuestas que eran demasiado de apoyo, pero falsas’. Demasiada ‘adulación’ de ChatGPT al usuario.

Cómo se conforma la personalidad de ChatGPT

OpenAI explica que, para conformar el comportamiento del modelo, comienzan por los principios e instrucciones descritos en las Especificaciones del modelo. A eso se añaden señales de usuario, como las opciones de pulgar arriba o abajo que ChatGPT da para valorar sus respuestas.

OpenAI se centró en estas valoraciones a corto plazo, en lugar de a largo plazo y sin tener en cuenta cómo evolucionan las interacciones de los usuarios con la IA con el tiempo. Algo que OpenAI está corrigiendo mientras introduce más funciones de personalización.

Una personalidad que puede ser "incómoda, inquietante y causar angustia"

La compañía señala que la personalidad predeterminada del chatbot es un elemento fundamental de la experiencia de uso. ‘Las interacciones aduladoras pueden ser incómodas, inquietantes y causar angustia. Nos quedamos cortos y estamos trabajando para hacerlo bien’, afirma.

La dificultad que afronta ChatGPT es una enorme base de usuarios —con más de 500 millones semanales— pertenecientes a todas las culturas y contextos. Es muy difícil satisfacer a todos. ‘Cada una de estas cualidades deseables, como intentar ser útil o de apoyo, puede tener efectos secundarios no deseados’, explican.

Además de las medidas internas que están tomando para realinear el comportamiento del modelo, OpenAI señala que los usuarios ya tienen la opción de dar instrucciones al modelo para que tenga un comportamiento personalizado. Próximamente, ‘podrán dar comentarios en tiempo real para influir directamente en sus interacciones y elegir entre múltiples personalidades predeterminadas’.