Grok, el asistente de IA de Elon Musk, se enfrenta a una segunda investigación en la UE por la creación y difusión de imágenes sexuales no consentidas

A la red social X y a su asistente de inteligencia artificial, Grok, se les abre un nuevo frente de batalla con la investigación anunciada por la Comisión de Protección de Datos de Irlanda en el día de ayer. El motivo de dicho proceso se centra en la supuesta generación de imágenes de índole sexual que el chatbot integrado en la red social X realizó entre los días 29 de diciembre y 9 de enero, acto que contravendría el Reglamento General de Protección de datos de la UE.

Se trata de la segunda investigación abierta a X por esta causa, tras la iniciada el pasado 26 de enero por parte de la Comisión Europea. En este segundo proceso el foco se pone en el tratamiento de datos de la plataforma y el hecho de que algunos se hayan empleado para la posible creación y publicación en X de imágenes íntimas o sexualizadas sin consentimiento.

Las imágenes, generadas con la herramienta de IA Grok y con un potencial dañino, incluyen o usan datos personales de personas de la Unión Europea y del Espacio Económico Europeo, incluso de menores, tal como se indica en la nota de prensa de la Comisión de Protección de Datos. A estas dos investigaciones hay que sumar la petición del Gobierno de España a la Fiscalía General para que investigue la posible comisión de delitos de X por esta misma cuestión.

Cuatro puntos del RGPD que podría haber incumplido X

Los informes sobre la aparición de este tipo de imágenes surgieron hace semanas y pusieron en marcha el proceso, tal como destacó Graham Doyle, Comisionado Adjunto, en el comunicado del organismo: "La DPC ha estado en contacto con XIUC desde que hace unas semanas surgieron los primeros informes en los medios sobre la supuesta capacidad de los usuarios de X para incitar a la cuenta @Grok en X a generar imágenes sexualizadas de personas reales, incluidos niños". 

La compañía que preside Elon Musk fue notificada por parte de la Comisión el lunes 16 de febrero lunes y ya sabe cuáles van a ser los puntos del RGPD en los que se centre el escrutinio por parte del organismo irlandés. La DPC cuenta con autoridad para ello dado que X Internet Unlimited Company (XIUC), la filial en Europa de X, tiene su sede establecida en Dublín.

A través de dicha investigación la Comisión de Protección de Datos busca esclarecer si X Internet Unlimited Company empleó todos los mecanismos de que dispone para salvaguardar y cumplir con las obligaciones de los puntos del Reglamento General de Protección de Datos que tienen que ver con el principios del tratamiento (artículo 5), licitud del tratamiento (artículo 6), Protección de Datos desde el diseño y por defecto (artículo 25) y Obligación de realizar una Evaluación de Impacto de la Protección de Datos (artículo 35).

Pese a que X ha negado las acusaciones e indicó haber tomado cartas en el asunto para evitar que Grok siga teniendo capacidad de generar ese tipo de imágenes, lo cierto es que las muestras en la red social siguen presentes.