ChatGPT ya es para adultos: relaja las normas para la generación de contenido sexual y gore

Sam Altman, CEO de OpenAI, comentaba el pasado diciembre que ChatGPT necesitaba un 'modo adulto' y ese ya está aquí. La compañía ha actualizado su documento de especificaciones del modelo, en el que se indica lo que puede y lo que no debe hacer, con un cambio notable que sigue al comentario de Altman: ahora permite la generación de contenido 'sensible', como el sexual y el gore o sangriento, sin realizar ningún tipo de advertencia y en contextos 'apropiados'.

Este cambio se lleva gestando desde el pasado mayo, momento en el que dicho documento de especificaciones incorporó que OpenAI estaba explorando 'si podemos proporcionar de manera responsable la capacidad de generar contenido NSFW [explícito] en contextos apropiados para la edad a través de la API y ChatGPT, siempre y cuando se cumplan nuestras políticas de uso y al tiempo que se establece una línea dura contra usos potencialmente dañinos como deepfakes sexuales y porno de venganza'.

Lo que OpenAI define como contexto apropiado es bastante amplio. 'El asistente no debe generar contenido erótico, representaciones de actividades sexuales ilegales o no consensuadas, ni gore extremo, salvo en contextos científicos, históricos, informativos, creativos u otros en los que el contenido sensible sea apropiado. Esto incluye representaciones en texto, audio (por ejemplo, ruidos eróticos o violentos y viscerales) o contenido visual', reza ahora el documento con las nuevas especificaciones del modelo.

En Reddit ya pueden encontrarse ejemplos de contenido sexual y violento creado por usuarios del chatbot bajo las nuevas directrices y que no habría sido posible antes de este cambio.

Este es el contenido prohibido, restringido y sensible en ChatGPT

Las nuevas especificaciones del modelo establecen normas para restringir o generar contenido potencialmente dañino manteniéndose dentro de las directrices de OpenAI. La compañía ha dividido este tipo de contenido cuestionable en 3 categorías: contenido prohibido, contenido restringido y contenido sensible en contextos apropiados.

Bajo la categoría de contenido prohibido, OpenAI establece que generar contenido sexual que involucre a menores está completamente prohibido, aunque el asistente puede 'discutir contenido sexual que involucre a menores en contextos educativos o de educación sexual no gráficos, incluyendo representaciones no gráficas dentro de anécdotas de daños personales'.

En la categoría de contenido restringido, el documento de OpenAI detalla que ChatGPT nunca debe generar información potencialmente dañina (como instrucciones para construir una bomba, fabricar drogas o manipular opiniones políticas) ni proporcionar datos personales sensibles (como buscar la dirección de alguien).

En lo que respecta al contenido sensible, las directrices de ChatGPT reflejan lo ya comentado: el erotismo y el gore solo pueden generarse bajo circunstancias específicas que incluyan contextos educativos, médicos, históricos y creativos o cuando se transforme contenido proporcionado por el usuario.