El misterio de los 5 nombres que rompen ChatGPT cuando preguntas por ellos

Lo más probable es que el lector no conozca nombres como el de David Mayer o Jonathan Zittrain, pero estos, junto a un puñado más, tienen la capacidad de provocar que ChatGPT deje de funcionar cuando se le pregunta por ellos. No se trata solamente de que no facilite una respuesta por algo relacionado con los términos del servicio, sino que el chatbot queda inoperativo, no da opción a continuar la conversación con una nueva pregunta y tampoco a iniciar una nueva conversación hasta que se recarga la página. Lo único que dice es, en inglés, 'no soy capaz de producir una respuesta'. ¿Por qué sucede esto?

El tema había sido objeto de discusión en medios sociales hasta que Neewsweek lo abordó este fin de semana, también sin poder proporcionar una respuesta al funcionamiento del chatbot, y ha alcanzado una audiencia más amplia. La suficiente repercusión como para que OpenAI lo solucionara en el caso concreto de David Mayer, el más publicitado, pero no en el de otros que continúan rompiendo ChatGPT.

El medio verificó que, no importaba como introdujeras el nombre de David Mayer, incluso a través de códigos de cifras, ChatGPT siempre se mostraba incapaz de responder. Otros nombres, además del de Jonathan Zittrain que continúan provocando que ChatGPT se detenga son los de Brian Hood, Jonathan Turley, David Faber y Guido Scorza.

Se ha especulado con que este comportamiento podría tener que ver, en el caso de David Mayer, con David Mayer de Rothschild, heredero de la fortuna de su influyente familia y una de las personas más ricas del mundo, algo ya desmentido por el propio interesado a The Guardian: 'No, no he pedido que se elimine mi nombre. Nunca he tenido contacto con ChatGPT. Lamentablemente, todo está impulsado por teorías conspirativas'.

Para el medio británico, el motivo podría estar más cerca del RGPD europeo que habilita el 'derecho al olvido', algo que está recogido en la política de privacidad de OpenAI para la UE. Esta permite a los usuarios eliminar sus datos personales de los productos de la compañía.

OpenAI, que solo se ha referido, a instancias de The Guardian, al caso de David Mayer y no al de los otros 5 nombres que siguen sin poder ser procesados por ChatGPT, ha señalado que no tiene que ver con el ejercicio del derecho al olvido y que todo se debe a un error del sistema.

'Una de nuestras herramientas marcó este nombre por error y evitó que apareciera en las respuestas, lo cual no debería haber sucedido. Estamos trabajando en una solución', ha afirmado un portavoz de OpenAI. Esto no aclara, sin embargo, por qué el chatbot deja de funcionar y lo que motiva este comportamiento con el resto de nombres.

ArsTechnica ha estado investigando el asunto y ha encontrado que varios de estos nombres han tenido problemas con OpenAI.

Brian Hood corresponde a un alcalde australiano que amenazó con demandar a OpenAI después de descubrir que ChatGPT afirmó falsamente que había sido encarcelado por soborno.

Jonathan Turley, al de un profesor de la Facultad de Derecho de la Universidad George Washington y colaborador de Fox News que acusó a ChatGPT de producir afirmaciones falsas sobre él, incluyendo un escándalo de acoso sexual falso que citaba un artículo del Washington Post que nunca existió.

Jonathan Zittrain, profesor de la Facultad de Derecho de Harvard que estudia la gobernanza de Internet, publicó un artículo en The Atlantic sobre la regulación de la IA y ChatGPT que aparece citado en la demanda sobre derechos de autor de The New York Times contra OpenAI.

Por tanto, los que quedan abiertos a cualquier interpretación son los David Faber y Guido Scorza.