La caja de Pandora: pornografía e Inteligencia Artificial

Desde el instante que es ilegal producir o distribuir pornografía por internet, el solo hecho de mencionar aplicaciones que contribuyen a esto, es una forma de facilitarlo. Por eso en este caso no se mencionará ninguna aplicación que permita crear imágenes falsas de desnudos a partir del uso de inteligencia artificial. Una caja de Pandora que hemos abierto y de la que están saliendo verdaderos horrores.

El caso de las menores de Extremadura nos ha enfrentado a una conducta y unas capacidades tecnológicas que ya desde 2019 fueron detectadas por Samantha Cole: una app descargable para Windows que permitía crear imágenes de desnudos a partir de fotografías reales. Esto ocurrió casi cinco años atrás y desde entonces no solo ha avanzado la tecnología, también hemos permanecido impasibles a las consecuencias de estos usos.

La realidad es que esto no debería sorprendernos si tenemos en cuenta que apenas un 4% de los sitios en internet tienen que ver con pornografía, pero esto genera un 30% del tráfico en la red. El problema es que mientras la tecnología está preparada para ello, los usuarios no lo estamos. Y tampoco las empresas.

Si bien no hay nada malo en usar fotografías para convertirnos en vikingas, reyes o reinas de antaño, elfos o ninfas. El problema es que gracias a las redes sociales, tenemos acceso a imágenes de cualquier persona con una facilidad pasmosa. Aunque sea menor de edad. Esto es en parte responsabilidad de las redes que permiten que a los 13 años ya puedan publicar contenido, de padres y madres que no controlan lo que se publica y de mayores “influencers” que publican contenido de sus hijos e hijas sin pensar en las consecuencias.

"La facilidad con la que puedes crear imágenes de cualquier persona que puedas imaginar es aterradora – señala el experto en tecnología Haje Jan Kamps -. He probado la capacidad de aplicaciones para generar pornografía alimentándola con imágenes de rostros de famosos mal retocadas con Photoshop sobre figuras desnudas y para mi sorpresa, las imágenes retocadas con Photoshop desactivaron fácilmente cualquiera de las supuestas barreras de seguridad. Al agregar contenido no adecuado, nos estamos adentrando en un territorio bastante turbio, muy rápidamente: tus amigos o alguna persona al azar que conociste en un bar y con quien intercambiaste el estado de amigo en Facebook pueden no haber dado su consentimiento a que alguien genere pornografía con ellos".

Junto a la política de edades de las redes, el desconocimiento del uso en menores y la facilidad para crear este contenido, hay que señalar también que las aplicaciones no tienen una barrera de seguridad que impida producir estas imágenes.

"El resultado de usar estas aplicaciones – explica la periodista Olivia Snow quien también analizó este tipo de IAs - fueron fotografías de cuerpos completamente desnudos de un rostro adolescente y a veces infantil, pero con un cuerpo claramente adulto”.

Hay quienes se escudan en que esta tecnología permite tareas que sus creadores nunca pretendieron y, a veces, incluso evade las restricciones de seguridad que intentaron imponer, la realidad es que las herramientas lo permiten y con resultados, como estamos viendo, más que alarmantes o ilegales: con el potencial de perjudicar a alguien de por vida.

Una de estas aplicaciones señala que usa fotos de usuarios para entrenar su IA y que puede usar las imágenes generadas para operar o mejorar la app sin compensación alguna. Esta app ha sido también criticada por producir imágenes hipersexualizadas de mujeres y niñas, incluido contenido pornográfico no consensuado, un sesgo que no está presente cuando se procesan imágenes de hombres. Pero no es exclusiva de esta app y son muchas las que lo permiten o facilitan.

El descargo de las apps ante esto es que se trata del “resultado de una mala conducta intencional en la aplicación". También señalan que cualquier contenido que estos programas puedan producir también podría ser creado por un usuario experto de Photoshop. Si bien es cierto, la diferencia es que para usar estas apps a menudo no hace falta ni registrarse, ni descargarse un programa, ni tener conocimientos: cualquier lo puede hacer pulsando un par de teclas.

Como ocurre a menudo con la tecnología (el mejor ejemplo es internet), la industria de la IA vinculada a este tipo de aplicaciones, ha adoptado un enfoque que se puede resumir en "vender ahora, hacer preguntas después" y con ello demostrar que su IA, su algoritmo es más avanzado que el de la competencia. Sin importar las consecuencias.

Si bien es imposible controlar las redes sociales o las aplicaciones, sí se puede delimitar las habilidades de las aplicaciones para producir este tipo de imágenes y, al mismo tiempo, educar en el uso de redes sociales. El dilema es si hay interés en lo primero y voluntad para lo segundo.