El Pentágono quiere inundar las redes con perfiles falsos

En 2014 se fundó en Estados Unidos la revista The Intercept,, cuyo objetivo inicial era publicar los documentos filtrados por el ex empleado de la CIA, Edward Snowden. Precisamente en esta publicación se puede ver una lista de deseos presentada por el Comando Conjunto de Operaciones Especiales (JSOC), un grupo furtivo de lucha contra el terrorismo dentro del Departamento de Defensa de los EE. UU. (DoD), que revela el interés de la agencia en usar IA generativa para crear usuarios falsos de Internet en línea.

Eso es a pesar de las advertencias del gobierno de los EE. UU. de que las falsificaciones profundas y otro contenido generado por IA profundizarán la crisis de desinformación y conducirán a un ecosistema de información más turbio para todos.

En el documento, JSOC explica que está buscando “tecnologías que puedan generar personajes convincentes en línea para su uso en plataformas de redes sociales, sitios de redes sociales y otro contenido en línea” para su uso por parte de las Fuerzas de Operaciones Especiales. Esta “solución -añade JSOC -, debería incluir imágenes faciales y de fondo, video facial y de fondo y capas de audio”.

Según la lista de deseos, JSOC quiere que los agentes de las Fuerzas Espaciales “utilicen esta capacidad para recopilar información de foros públicos en línea”. En otras palabras, el JSOC quiere proporcionar a sus equipos de operaciones especiales la tecnología para crear deepfakes de IA sofisticados y personalizados, capaces de convencer a los usuarios de las redes sociales de que son auténticos y así obtener información.

Por un lado, no es que el personal de inteligencia no esté ya merodeando por los foros de mensajes en línea y los canales de las redes sociales, o que el Pentágono tampoco sea ajeno a las campañas de influencia externa en línea. Pero realizar un control continuo mediante IA en redes sociales, sí es algo nuevo y señala un rumbo poco explorado hasta ahora por las agencias de inteligencia. Al menos a nivel público.

Ya el año pasado The Intercept señaló que el Pentágono estaba interesado expresó su interés en los deepfakes como un medio para mejorar y expandir los esfuerzos de influencia a cargo del Comando de Operaciones Especiales (SOCOM) del Departamento de Defensa, y escribió en una licitación de 2023 que buscaba tecnologías “más abarcadoras y disruptivas y de mayor alcance” que las herramientas vigentes en ese momento.

Y con el día de las elecciones presidenciales acercándose rápidamente, vale la pena señalar que el Proyecto 2025, un plan para una nueva presidencia de Donald Trump, también persigue expandir los esfuerzos de vigilancia y espionaje.

Pero mientras el Pentágono se apresura a usar IA para potenciar sus actividades digitales, los expertos advierten que la adopción de la tecnología por parte del sector de defensa estadounidense dará luz verde a prácticas engañosas similares para naciones de todo el mundo.