X bloquea los desnudos por Grok: ningún usuario podrá pedirle a la IA de Elon Musk que desnude a otra persona

Tras varias semanas de desnudos no consentidos en X, finalmente la red social ha implantado medidas destinadas exclusivamente para evitarlo. Así lo ha comunicado la propia red social a través de una de sus cuentas oficiales, donde anuncia que se han introducido cambios en Grok para que no edite fotos de personas para sexualizarlas.

Dicha medida se complementa con el bloqueo de edición de imágenes por Grok para usuarios gratuitos de X. Y es que, hace pocos días, la red social bloqueó la generación y edición de imágenes en la plataforma para los usuarios gratuitos, dejándola únicamente como una funcionalidad para los de pago.

Punto final al "Grok, ponla en bikini"

Una de las tendencias más preocupantes durante las últimas semanas en X ha sido el desnudo no consensuado de personas, principalmente mujeres. Si, por ejemplo, una usuaria había publicado una foto con un abrigo, o con la ropa que fuese, cualquier usuario era capaz de mencionar a Grok (@Grok) para que editase la foto con las instrucciones que al usuario le apeteciese. Si bien la pornografía explícita nunca ha estado permitida, Grok sí podía sexualizar a la persona de la foto, haciendo que, por ejemplo, apareciese solo con un bikini, pero también cambiando su pose, hacia una sexualizada.

La posibilidad de que cualquier usuario pudiese desnudar a otro sin su consentimiento ha despertado una ola de indignación. Pese a que a Elon Musk le parecía muy divertido, la Unión Europea y otros organismos regulatorios habían amenazado con tomar medidas, incluso el propio Primer Ministro de Reino Unido expresó su incredulidad.

Como primera medida para bloquear los desnudos, aunque varios usuarios opinaban que era para monetizarlos, X bloqueó la generación y edición de imágenes para usuarios gratuitos de la red social. Si bien en la propia app de Grok se podía seguir generando y editando imágenes, con todas sus posibilidades, no era así en X, al menos para quien no pagase la suscripción Premium.

Sin embargo, ante la posibilidad de que la situación se les escapase de las manos, y con especial atención a los menores de edad —ya que incluso el Gobierno de España había pedido a la Fiscalía que investigase a la red social por posible pornografía infantil—, X ha implementado medidas especiales para evitar que Grok desnude.

"Hemos implementado medidas tecnológicas para prevenir que la cuenta de Grok edite imágenes de personas reales para revelar prendas, como bikinis. Esta restricción se aplica a todos los usuarios, incluyendo a los suscriptores de pago" indica la cuenta oficial de X dedicada a la seguridad en la platafor

Por otro lado, Elon Musk ha publicado un post en el que afirma que no tiene conocimiento de ninguna imagen de menores desnudos generada por Grok. También ha excusado a la plataforma, indicando que no genera imágenes espontáneamente, sino que lo hace mediante la solicitud de los usuarios.