De las fake news al deepfake, la mentira y su trasformación digital

Por Víctor Núñez

Ahora que todo el mundo habla de las fake news y que hasta la Fundación de Ayuda contra la Drogadicción (no hay peor droga que la mentira) y Google van a poner en marcha campañas escolares para su detección, descubro por mi amigo y tocayo Víctor Caballero un nuevo término que puede convertir a las noticias falsas divulgadas por las redes en un juego de niños. Se trata de las deepfake (ultra falso), una vuelta de tuerca más de los peligros a los que nos somete la conjunción de la propagación de noticias falsas a través de redes sociales, el poder de la imagen y el big data. Por tanto, el deepfake vendría a ser la versión ultra de las fake news.

La clave del poder inquietante de esta técnica radica en cómo, a través de la inteligencia artificial, se sintetizan cientos de imágenes y vídeos de una persona que se combinan a través de algoritmos de aprendizaje RGAs (red generativa antagónica) para generar un vídeo tan falso como increíblemente similar a la realidad. El resultado final del cóctel es un vídeo completamente falso pero lo suficientemente realista para darnos gato por liebre.

El uso de esta técnica ya se ha utilizado en el cine para volver a revivir a personajes míticos como la princesa Leia, cuando la actriz que la protagonizaba, Carrie Fisher, falleció durante su rodaje. Este sería un uso legítimo, al menos si así lo consideran sus herederos, el problema viene cuando cae en manos de desalmados que ya lo han utilizado para mezclar rostros de actrices famosas en escenas pornográficas.

La tecnología, a través de software como Leyrebird, ya permite imitar el timbre de voz de cualquier persona solo con tener un minuto de grabación de su voz. La capacidad de imitar y falsear, y por tanto hacer daño, son ilimitadas. Esto nos lleva a imaginar el uso de esta técnica para poner en boca y cara de altos mandatarios desde una declaración de guerra a cualquier otra barbaridad que se nos pueda ocurrir. Pero nadie está exento de los riesgos de las deepfakes, pues cualquiera que usa redes sociales como Facebook o Instagram está subiendo cientos o miles de imágenes propias a las redes perdiendo el control de las mismas. El manipulador dotado de esta tecnología solo tiene que acudir a ellas para montar un vídeo con el que chantajear a la víctima.

Ya se están poniendo en marcha algoritmos y técnicas para reconocer estos contenidos falsos, pero para su verificación hará falta tiempo y que llegue a los organismos que dispongan de esta tecnología. El problema vendrá cuando este tipo de vídeos se difunda como la pólvora a través de redes sociales o plataformas como Whatsapp. Más riesgos para este mundo VUCA. Mientras tanto solo nos queda apelar a la educación y a un uso ético y responsable de la tecnología.