El jefe de IA del Pentágono está "muerto de miedo" por lo que la gente podría hacer con inteligencia artificial

El ritmo al que progresan las inteligencias artificiales generativas ha generado una ola de entusiasmo por este tipo de herramientas, pero también levantan cada vez más suspicacias entre voces autorizadas en la materia. Una de las últimas en hacerlo ha sido el jefe de IA del Pentágono Craig Martell, quien ha afirmado que “está muerto de miedo” por el uso que la gente pueda darle a herramientas de inteligencia artificial como ChatGPT y otras.

En unas declaraciones realizadas durante una conferencia frente a desarrolladores de software el pasado miércoles, durante el evento TechNetCyber celebrado en Baltimore, Martell explicó que “mi temor es que confiemos demasiado en estas herramientas sin que los proveedores de ese servicio incorporen las garantías adecuadas y la capacidad para que podamos validar” la información que recibimos, según recoge el medio Defenseone.

La desinformación que adquiere un tinte de autoridad informativa por la naturalidad del lenguaje que emplean inteligencias artificiales como ChatGPT, la calidad casi fotográfica de las imágenes generadas a partir de texto y el clonado de vocespermiten a un adversario realizar campañas de influencia muy efectivas. “Esta información desencadena una respuesta psicológica que lleva a pensar "por supuesto que esto tiene autoridad", opina Martell. Recuerda, también, que el contenido que producen muchas veces contiene errores y carecen de la capacidad humana de entender el contexto.

Por estas razones, el responsable de IA en el Pentágono advierte a la industria “no nos vendáis solo la generación. Trabajar en la detección” para que los usuarios puedan distinguir entre contenido generado por IA y por humanos.

No todo el mundo en el Departamento de Defensa estadounidense comparte la visión de Martell. La semana pasada la Agencia Nacional de Seguridad alentaba el uso de las herramientas IA para evitar que otros adversarios se adelanten mientras que, en el mismo evento TechNetCyber, el teniente general Robert Skinner, director de la Agencia de Sistemas de Información de Defensa DISA, afirmó que “no tengo miedo, en general, al respecto... Creo que será un desafío”. Otro alto cargo de DISA, el jefe técnico Steve Wallace, explicó que “hay una serie de lugares... que buscamos para aprovechar [IA de próxima generación], desde capacidades administrativas y generación de contratos, etiquetado de datos…”

Sobre esta última cuestión, Martell advirtió que “Simplemente no funcionan... Lo que funciona son los seres humanos que son expertos en su campo y le dicen a la máquina que esto es A; esto es B; esto es un; esto es B; y esto es B; y luego eso es lo que se introduce en el generador de algoritmos... para generar un modelo para usted”.

En cuanto a los planes del Pentágono para el departamento que encabeza, Martell explicó que están centrado en desarrollar la infraestructura y las políticas que permitan al Ejército estadounidense hacer realidad el proyecto JADC2, una plataforma que permitirá conectar los sistemas de todas las ramas del Ejército estadounidense y compartir los datos que recogen su tecnología.