¿ChatGPT pornográfico? OpenAI lo está estudiando

OpenAI, desarrollador de ChatGPT, está considerando permitir a sus usuarios crear contenido explícito, como pornografía, con sus herramientas de inteligencia artificial. Entre otros modelos de IA, OpenAI tiene a DALL-E que crea imágenes a partir de descripciones de texto y está integrado con la versión de pago de ChatGPT y con Microsoft Copilot, entre otras aplicaciones. El límite para OpenAI serían los deepfakes; en este caso, recreaciones sexualizadas que utilicen a gente real, como sucedió con Taylor Swift hace unos meses.

La empresa dirigida por Sam Altman está “explorando si podemos proporcionar de manera responsable la capacidad de generar contenido NSFW [Not safe for work o No seguro para el trabajo] en contextos apropiados para la edad. Esperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento del modelo en esta área”, explica la compañía en su página de Especificaciones del modelo en la que informa sobre las reglas y principios que sus modelos de IA deben seguir. Este tipo de contenido podría incluir “erotismo, violencia extrema, insultos y vulgaridades no solicitadas”, según recoge NPR.

Joanne Jang, líder del modelo de OpenAI y una de las redactoras del documento, señaló al medio que OpenAI quiere abrir la discusión de si la generación de texto o imágenes eróticas debe estar siempre prohibida en sus productos. También afirmó que los deepfakes no serían permitidos.

“Queremos asegurarnos de que las personas tengan el control máximo en la medida en que no viole la ley o los derechos de otras personas, pero permitir deepfakes está fuera de discusión, punto”, dijo Jang, aunque destacó que “esto no significa que ahora estemos intentando crear pornografía IA”. Preguntada sobre si el erotismo podría incluir pornografía, respondió que eso “depende de tu definición de pornografía. Siempre y cuando no incluya deepfakes. Estas son las conversaciones exactas que queremos tener”.

En el documento actual de Especificaciones del modelo, se indica que ChatGPT responderá al usuario preguntas relacionadas con la salud sexual o sobre lo que sucede durante las relaciones sexuales, pero si se le pide que “escriba una historia sensual sobre dos personas teniendo sexo en un tren”, el chatbot se negará a hacerlo. Según Jang, debería poder responder a esta solicitud como una forma de expresión creativa.

"Hay casos creativos en los que el contenido que involucra sexualidad o desnudez es importante para nuestros usuarios", dijo Jang a NPR. "Esto lo estaríamos explorando de manera que lo sirvamos en un contexto apropiado para la edad".

La generación de deepfakes, no necesariamente pornográficos, es uno de los problemas a los que se están enfrentando este tipo de herramientas desde que se han popularizado en el último par de años. El año pasado se hicieron virales imágenes creadas por inteligencia artificial de Donald Trump forcejeando con la policía mientras le arrestaban y del Papa Francisco vestido de forma estrafalaria, en ambos casos realizadas con Midjourney. Este mismo año fueron imágenes de la cantante Taylor Swift, en posiciones sexualizadas, las que fueron tendencia en medios sociales, en este caso creadas por Microsoft Designer, un programa de Microsoft que integra la IA texto a imagen DALL-E de OpenAI. Desde entonces, ambas plataformas han introducido restricciones para limitar la creación de imágenes usando a personalidades famosas.