Tecnología

Pablo Iglesias, “fumador de pipa”; Santiago Abascal, “jefe tribal”, y usted, ¿de qué tiene cara?

Probamos ImageNet Roulette, la aplicación que clasifica a las personas y que comete errores garrafales fiándose solo del aspecto

El Rey Felipe VI es “persona influyente” y “anciano estadista”
El Rey Felipe VI es “persona influyente” y “anciano estadista”larazon

Si la cara es el espejo del alma, en ella se puede adivinar el tipo de persona ante la que nos encontramos. Aunque a veces es solo eso, apariencia. Y con estas premisas se ha creado la aplicación en web de ImageNet Roulette. 2.833 subcategorías de clasificación de las caras, con base en ImageNet, conforman un scanner que automáticamente nos dice qué tipo de persona es según la foto que seleccionemos. Pero sus creadores avisan de que es, cuanto menos, inexacta y ofrece respuestas absurdas.

Así hemos querido probar qué opina esta app de caras conocidas de la política, las artes, los deportes y otros sectores de la sociedad, nacionales y extranjeros. Para ser ecuánimes hemos escaneado dos imágenes por cada individuo para que también queden patentes las disparidades dependiendo de la ropa, la iluminación y el contexto. En algunos casos los usuarios se han quejado de que les etiqueta como “sospechosos de violación” sin que exista explicación para ello.

De esta manera ImageNet Roulette nos indica que el presidente del Gobierno en Funciones, Pedro Sánchez, es a la vez una persona “nacida en África” o de color “negro”, si elegimos una foto de después de sus interminables vacaciones de verano, o un «presentador» o “reportero de televisión” con una imagen más alegre y social.

Albert Rivera pasa de “payaso” a persona rica sólo por ponerle corbata y que su cara no haga gestos. Pablo Casado, con barba, es etiquetado como “actor”, “trabajador”, “persona que actúa y hace las cosas”.

Santiago Abascal, líder de Vox, aparece como “barba” en cualquier imagen que le adjuntes y lo traduce como “persona que desvía la sospecha de alguien” (“especialmente una mujer que acompaña a un hombre homosexual para ocultar su homosexualidad”) o también como “jeque”, “jefe tribal”o jefe árabe”.

Para terminar con la política, de Pablo Iglesias dice que es “fumador de pipa”, en una foto del Congreso lo etiqueta como «hipócrita, disimulador” y “falso” y en un tercer intento no tiene más suerte y acaba como “primer delincuente” y de Cayetana Álvarez de Toledo, portavoz del PP en el Congreso, pasa de “rubia platino” a “una mujer muy atractiva o seductora” o a “una mujer que es mediadora”.

Plácido Domingo estaría en su “edad dorada” de “jubilado” y el Rey Felipe VI podría ser un “miembro del partido laborista británico” y un “anciano estadista”, mientras que la Reina Doña Letizia pasa por “niña o mujer soltera” junto a sus hijas o por “mujer italiana de rango” en recepciones oficiales con uno de sus vestidos rojos. Cristiano Ronaldo sería “participante de una mascarada” y Mario Draghi, como poco “vicepresidente con poder ejecutivo”; la planta es lo que tiene.

Trump no ha pasado de “huérfano” y Boris Johnson, es sin duda, una “abuela” o “abuelita”. Epstein, efectivamente, es “criminal” y “convicto”.

La aplicación ha sido creada expresamente para la exposición «Training Humans” por los investigadores Trevor Paglen y Kate Crawford, como un experimento que pretende plantear las limitaciones del reconocimiento facial y de la inteligencia artificial. La estructura subyacente de ImageNet se basa en la estructura semántica de Wordnet, una base de datos de clasificaciones de palabras desarrollada en la Universidad de Princeton en la década de 1980. “ImageNet Roulette utiliza un marco de aprendizaje profundo de código abierto Caffe (producido en UC Berkeley) capacitado en las imágenes y etiquetas en las categorías de “persona” (que actualmente están “fuera de servicio por mantenimiento”). Se eliminaron los nombres y categorías adecuados con menos de 100 imágenes.”, según la propia web. El proceso es que a través del enlace se puede activar la cámara web y hacerse una autofoto, introducir un enlace a una imagen para que la catalogue automáticamente o cargar una imagen desde el dispositivo. Según ImageNet Roulette, “hay categorías problemáticas, ofensivas o extrañas, todas extraídas de WordNet. Tambien alguna terminología misógina o racista”. Como aclaración explican que “los resultados que arroja ImageNet Roulette también se basarán en esas categorías. Eso es por diseño: queremos arrojar luz sobre lo que sucede cuando los sistemas técnicos reciben capacitación sobre datos de capacitación problemáticos. Las clasificaciones de IA de las personas rara vez se hacen visibles para las personas clasificadas. ImageNet Roulette ofrece una idea de ese proceso y muestra las formas en que las cosas pueden salir mal”. Por eso si subimos una foto propia nos podremos encontrar con carteles genéricos como “padre”, “hermana” o, como en mi caso, “buzo” por el efecto ojo de pez que hizo la webcam.