“Delincuente” o “arquitecto”: lo que revela la IA sobre nuestros estereotipos

En este episodio de la serie Amibox, un contenido de la Fundación Atresmedia, se plantea una cuestión para el futuro de la sociedad digital, ¿estamos usando la inteligencia artificial con cabeza?

A través de un ejemplo claro y directo, el vídeo alerta sobre los riesgos de los sesgos en la IA, especialmente para los jóvenes, que cada vez más interactúan con tecnologías como los chatbots, los algoritmos de recomendación o los generadores de imágenes.

Todo parte de una sencilla prueba, si pides a una IA que genere la imagen de un periodista, casi siempre aparecerán personas blancas. Pero si introduces la palabra “delincuente”, el resultado muestra hombres con tatuajes y ropa informal. Se trata de un sesgo, y es más común de lo que parece.

¿Qué son los sesgos en la IA y por qué deberían preocuparnos?

Los sesgos en la inteligencia artificial aparecen cuando los datos con los que se entrena un sistema no representan bien a toda la población. Como esos datos proceden de contenidos creados por humanos (y, por tanto, con sus prejuicios), la IAhereda e incluso amplifica esos estereotipos.

El vídeo lo explica con un ejemplo claro. Si le pides a una IA que genere la imagen de un arquitecto, seguramente aparezca un hombre. ¿Por qué? Porque la mayoría de referencias online sobre arquitectos famosos hablan de hombres. Y así, sin darnos cuenta, la IA refuerza la idea errónea de que no hay mujeres arquitectas.

Estos sesgos no solo afectan a la representación en imágenes, sino también a decisiones automáticas en sistemas que usamos a diario. El problema es que estas decisiones pueden terminar perjudicando a ciertos colectivos y perpetuando desigualdades.

VÍDEO: Metaverso y jóvenes: oportunidades y riesgos -Usando la IA con cabeza

Cómo usar la IA con responsabilidad

La buena noticia es que sí se puede evitar que la IA reproduzca estereotipos, y para ello, los expertos trabajan con principios que garantizan un desarrollo ético y justo.

• Comprender e identificar el sesgo: saber que existe es el primer paso para detectarlo.

• Usar datos representativos: equilibrar las fuentes para incluir diferentes perfiles, etnias, géneros y culturas.

• Exigir transparencia: saber cómo se entrena una IA y qué datos utiliza.

• Fomentar equipos diversos: que quienes desarrollan estas tecnologías vengan de contextos distintos.

• Revisar constantemente los sistemas para corregir fallos a tiempo.

Tecnología con valores, el futuro digital

La inteligencia artificial es una herramienta poderosa que puede cambiar la forma en que estudiamos, trabajamos o nos comunicamos. Pero, como recuerda el vídeo, usarla sin pensar puede fijar ideas equivocadas y normalizar representaciones injustas.

Por eso, si detectas una imagen o contenido sesgado, lo mejor es no compartirlo, y explicar por qué. Porque usar la IA con cabeza no solo significa aprovechar sus ventajas, sino también proteger nuestra manera de pensar frente a prejuicios invisibles.