Cuando DARPA creó un robot con IA para detectar humanos y los marines le derrotaron usando cajas de cartón

El impacto de la inteligencia artificial en la sociedad es el tema central del último libro de Paul Scharre, antiguo soldado y analista de políticas en la OSD (Oficina del Secretario de Defensa) de Estados Unidos, en el que lo compara con el que tuvo la energía eléctrica en su momento y considera el momento actual como el inicio de una nueva revolución industrial. Su nueva obra, Four Battlegrounds: Power in the Age of Artificial Intelligence o Cuatro campos de batalla: el poder en la era de la Inteligencia Artificial, tiene prevista su publicación en el marcado anglosajón el próximo mes, pero algunos extractos han comenzado a circular por los medios sociales. Entre ellos, uno que confirma la máxima de que una inteligencia artificial es tan buena como el conjunto de datos con el que ha sido entrenada. Algo que pudo comprobar DARPA, la Agencia de Proyectos de Investigación Avanzados de Defensa de Estados Unidos, en el desarrollo de un robot provisto de una IA para detectar a personas.

Scharre, al menos en los extractos compartidos por el periodista de The Economist Shashank Joshi, no concreta en que año sucedió la historia ni da más detalles acerca del robot. En un momento dado del proyecto, DARPA decide mejorar el algoritmo de la IA entrenándola con humanos con armas. Así que traen a un grupo de marines para entrenar con ellos los movimientos y figuras que debe poder reconocer la inteligencia artificial.

(I touched on the same story here: https://t.co/NiOQY64fId)

— Shashank Joshi (@shashj) January 18, 2023

Durante seis días, el grupo de 8 marines camina alrededor del robot mientras los ingenieros refinan el algoritmo para detectar a las personas que están a su alcance. En el séptimo día, deciden cambiar el enfoque e iniciar un pequeño juego en el que los marines tratarán de derrotar a la IA del robot. Lo único que tienen que hacer es lograr acercarse a él y tocarlo sin ser detectados.

“Ocho marines. Ni uno solo fue detectado”, señala Phil, quien relata la anécdota a Scharrer en el extracto que está circulando.

Lo más llamativo no es que la IA no funcionara mal y aún así fuese superada, sino que los marines lo hicieron usando recursos propios de una serie de dibujos animados y para los que el algoritmo no había sido entrenado.

Dos de los marines llegaron hasta el robot dando volteretas durante 300 metros. Otros dos dentro de cajas de cartón, como se ha visto en numerosas comedias o el videojuego Metal Gear Solid, por ejemplo, mientras no paraban de reírse durante la maniobra. Y un quinto marine arrancó las hojas a un abeto para disfrazarse y “caminó como un abeto” hasta tocar el robot. De los tres restantes, no conocemos los trucos que emplearon para batir al robot pero es de esperar que fueran en la misma línea.

La inteligencia artificial fue incapaz de reconocer cualquiera de esas formas de moverse como correspondientes a personas, con lo que el grupo de marines demostró ser bastante más ingenioso, al menos, que los ingenieros de DARPA.