Grok, la IA de Elon Musk, crea vídeos de Taylor Swift desnudándose sin ni siquiera pedírselo

Grok, la IA de xAI que puede usarse desde X o a través de su propia app/web, incorporó este martes una nueva función, Grok Imagine, que permite crear vídeos cortos de 15 segundos a partir de una instrucción de texto.

Mientras Elon Musk ha dedicado desde entonces buena parte de sus publicaciones en la antigua Twitter a promocionar la herramienta, desde el medio The Verge han descubierto que con ella Grok puede crear deepfakes de la cantante Taylor Swift desnudándose, sin ni siquiera tener que pedírselo al chatbot. Y todo debido a su función spicy.

Jess Weatherbed, periodista del medio tecnológico, comprobó que, en la primera vez que usaba la herramienta, esta le devolvió un vídeo de la cantante quedándose en topless.

A partir del prompt 'Taylor Swift celebrando Coachella con los chicos', Grok creó más de una treintena de imágenes en las que aparecía vestida con ropa sugerente. Imagine permite aplicar cuatro estilos predeterminados sobre cualquiera de ellas -custom (personalizado), normal, fun (diversión) y spicy (picante)- al convertir una imagen en un vídeo de 15 segundos.

Weatherbed seleccionó el modo spicy para una de ellas, confirmó su fecha de nacimiento y Grok generó un clip en el que Swift se 'arranca la ropa' y 'baila en tanga' ante una 'multitud indiferente generada por IA'.

Estos resultados se lograron sin necesidad de saltarse restricciones del chatbot ni de forzar el sistema, lo que despierta preocupaciones acerca de las salvaguardas que xAI ha implementado en Grok. El año pasado ya hubo una controversia por el uso de inteligencia artificial de Microsoft para la creación de imágenes deepfake en las que Swift aparecía sexualizada. Ante la viralidad que obtuvieron, X recordó a los usuarios que 'la publicación de imágenes de desnudez no consentida (NCN) está estrictamente prohibida en X y mantenemos una política de tolerancia cero hacia este tipo de contenido'.

'Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando medidas apropiadas contra las cuentas responsables de publicarlas. Estamos supervisando estrechamente la situación para asegurarnos de que cualquier nueva infracción se aborde de inmediato y se elimine el contenido. Estamos comprometidos con mantener un entorno seguro y respetuoso para todos los usuarios', señaló la cuenta X Safety.

No es que Grok Imagine no tenga salvaguardas. Weatherbed explica que, cuando intentó crear expresamente imágenes de la cantante desnuda, la IA no las generaba y solo presentaba una imagen completamente en blanco. Tampoco aceptaba peticiones para alterar la apariencia de Swift de otras formas ofensivas, como hacer que parezca tener sobrepeso. Y cuando probó el modo spicy con imágenes de niños, Grok se negó a representarlos de forma inapropiada. Probablemente, xAI solo tenga que afinar mejor el modelo para evitar este tipo de comportamiento.

En 2026, entrará en vigor en Estados Unidos la Take It Down Act, una ley que obliga a las plataformas a eliminar con rapidez imágenes sexuales no consentidas, incluyendo las generadas por IA. Entonces, un fallo de este tipo hará que Grok tenga que enfrentar consecuencias legales.