El Estado Islámico ya tiene su locutor humanoide en inteligencia artificial para difundir su propaganda

Los grupos militantes como el Estado Islámico (Daesh, Isis) y sus comunidades de seguidores aprovechan cada vez más los avances en materia de inteligencia artificial (IA ) para difundir propaganda y desinformación de manera más eficiente y a un menor coste. De hecho, ya cuentan con un locutor de TV humanoide.

Al explotar la IA a través de chatbots de fácil uso y acceso, así como de generadores de imágenes y audio, los seguidores del Isis producen contenido visualmente atractivo y persuasivo que se alinea con los valores de la organización, su difusión en los medios y sus objetivos de reclutamiento y amplían así su alcance propagandístico. Tras el mortal atentado a la sala de conciertos de Moscú en marzo, un seguidor del Daesh hizo circular boletines de noticias en vídeo generados por IA sobre las operaciones globales del grupo en sus canales de comunicación.

Esto desencadenó amplios debates y un creciente interés entre las redes de seguidores por integrar la IA en la creación de contenidos mediáticos. Este avance significó un cambio fundamental en la utilización de la IA como herramienta clave en las estrategias de guerra mediática del Estado Islámico y sus afiliados regionales, en particular el Estado Islámico en la Provincia de Khorasan (ISKP), con sede en la región de Afganistán y Pakistán.

Según un informe de HsToday, un locutor humanoide generado por IA hablando y el logotipo del ISIS y los teletipos de noticias moviéndose a lo largo de la parte inferior de la pantalla intercalados con imágenes que mostraban a los terroristas ejecutando ataques, el estilo de transmisión, emulaba de cerca a las populares cadenas de televisión Al Jazeera y CNN. Posteriormente se produjeron otras transmisiones de noticias en vídeo generadas por IA sobre las operaciones en Oriente Medio y África con un estilo similar. En estos casos, se utilizaron inteligencia artificial de texto a voz para convertir la información escrita en voz y audio con acento humano, y generadores de video para producir estos videos de propaganda de vanguardia.

En una sala de debate a favor del ISKP, un creador admitió abiertamente: “Debemos centrarnos en la apariencia y utilizar un lenguaje imparcial para que los vídeos parezcan neutrales en la superficie y no parezcan favorecer o pertenecer a ningún grupo específico. Debemos evitar el uso de palabras prohibidas que atraigan una atención no deseada hacia nosotros. Este programa de inteligencia artificial fue creado por infieles, pero debemos aprovecharlo al máximo”.

Los seguidores del ISKP afirmaron que la difusión de estos informes de noticias generados por IA sobre las operaciones del ISKP se realiza principalmente a través de plataformas cifradas como Telegram y Rocket Chat. El objetivo de este contenido generado por IA era distribuirlo más ampliamente en redes sociales como X (anteriormente Twitter) y Facebook.

Creen que estas plataformas, que albergan a las "comunidades más activas en lo social", ofrecen oportunidades incomparables para difundir propaganda, atraer a más seguidores y movilizarlos a pesar de los desafíos que suponen las suspensiones periódicas de cuentas y las restricciones para compartir contenido que conllevan. Los usuarios también sugirieron crear cuentas falsas en X/Twitter que imitaran los perfiles de usuarios legítimos, medios de comunicación y otras figuras religiosas o políticas para difundir estos vídeos de noticias generados por IA.

Además de X/Twitter, estos clips de noticias generados por IA generaron una participación sustancial en TikTok, y uno de esos videos acumuló más de 150 me gusta y comentarios que provocaron principalmente reacciones hostiles de simpatizantes talibanes. Varias cuentas pro-talibanes criticaron rápidamente los clips de noticias de propaganda generados por IA, desprestigiándolos por estar editados de manera burda y tachándolos de desinformación. Acusaron a los "guerreros de los medios" de ISKP de apropiarse de la identidad de una cadena de noticias legítima, Khorasan TV International, activa en Afganistán, para propagar propaganda extremista y falsedades. Un usuario comentó: "¡El video es claramente falso y se hizo en línea! Mire la boca del periodista: no tiene dientes. Estos extremistas harán cualquier cosa para difundir mentiras". Por otro lado, las cuentas pro-EI elogiaron el estilo "innovador" de transmisión de propaganda, destacando la ventaja de poder circularlos "en línea sin preocupaciones de seguridad".

A medida que el Estado Islámico perfecciona su uso de la IA generativa, aumenta la probabilidad de producir contenido propagandístico cada vez más intrincado y convincente y aumenta el desafío de las operaciones de desmantelamiento. La creciente tendencia de los actores militantes a aprovechar la IA generativa, principalmente, para la producción y difusión de medios, plantea, por lo tanto, una grave preocupación desde una perspectiva de seguridad global, que requiere una colaboración más estrecha y respuestas cada vez más rápidas entre investigadores, empresas tecnológicas, responsables de políticas y agencias de aplicación de la ley para diseñar estrategias sólidas para contrarrestar el uso indebido de la IA generativa por parte de los terroristas.