Democracia en la era de la IA: deepfakes y el regreso a las fuentes fiables

Una multinacional con sede en Hong Kong experimentó un robo de 23.7 millones de euros a través de deepfakes– video, imagen o audio generado por IA que imita la apariencia y la voz de una persona –. A principios de febrero, uno de sus empleados fue engañado por videos que imitaban la apariencia de altos ejecutivos de la compañía.Sin duda, la sofisticación de la IA al crear nuevas realidades e influir en la opinión pública ha quedado más que demostrado. En diversas ocasiones, esta tecnología ha supuesto un vehículo para la desinformación en escenarios tan críticos como pueden ser unas elecciones.

Cabe destacar los numerosos incidentes relacionados con deepfakes y la difusión de noticias falsas también creadas artificialmente que han afectado el escenario político de Estados Unidos. Un ejemplo destacado fue el vídeo que se hizo viral en abril del 2018 donde se mostraba al expresidente Barack Obama insultando al entonces presidente Donald Trump en un discurso. Aunque fue creado por el cómico Jordan Peele, su realismo y la magnitud de alcance puso de manifiesto la facilidad con la que estas tecnologías pueden ser utilizadas para condicionar lo que los ciudadanos pueden llegar a pensar y opinar.

A pesar de que este contenido fue rápidamente desmentido, no se puede negar que los deepfakes son cada vez más accesibles, rápidos de generar y verosímiles, y que desafían nuestra percepción de la realidad a la vez que debilitan la confianza depositada en las plataformas donde se comparten. La popularidad del vídeo que mostraba a Joe Biden durmiéndose en una entrevista en directo, cuando realmente resultó ser una imagen sacada de contexto editada con sonidos de ronquidos, demuestra la facilidad de fomentar la desinformación a través de las redes sociales.

Sin duda alguna, este debate adquiere mayor relevancia en este 2024, el año que podemos catalogar como el que más elecciones habrá alrededor del mundo. De hecho, casi el 50% de la población mundial podrá acudir a las urnas.

Esto no forma parte de un falso alarmismo sobre el poder de la IA en la opinión pública, sino de algo que ya está ocurriendo y que los expertos llevan tiempo alertando. Un claro ejemplo es lo sucedido hace tan solo unas semanas en las primarias del estado de New Hampshire, donde varios ciudadanos recibieron llamadas automáticas en las que sonaba la voz del presidente de Estados Unidos, Joe Biden, instándolos a no votar.

La ausencia de Biden en las papeletas oficiales por un desacuerdo del Partido Demócrata sobre el calendario de las elecciones, que le llevó a no inscribirse dentro del plazo marcado, resultó en el escenario idóneo para confundir a los ciudadanos a través de estas llamadas. Pese a los reiterados esfuerzos de los partidarios de Biden por aclarar que los votantes podían escribir a mano el nombre del candidato, el cruce de noticias falsas entorpeció el proceso.

En este panorama, los medios de comunicación tradicionales, cuya audiencia ha ido disminuyendo con el auge de las redes sociales y los medios digitales, encuentran una oportunidad única para reafirmar su relevancia y recuperar su prestigio. A corto y medio plazo, la sociedad necesitará de fuentes de información con una trayectoria comprobada de fiabilidad. Esta necesidad ofrece a los medios tradicionales la posibilidad de recuperar su papel como guardianes de la verdad en tiempos de gran desinformación.

Esta responsabilidad de los medios tradicionales cobra mayor importancia cuando vemos cómo las políticas contra las fake news de las principales redes sociales no son lo suficientemente eficaces. La portavoz de TikTok, Ariane Selliers, ha asegurado repetidas veces que la plataforma exige a los creadores que etiqueten el contenido realista generado por IA, ya sea con una pegatina o en un pie de foto, y que continúan eliminando el contenido que pueda inducir a error o suplantar la identidad de las personas. Sin embargo, un estudio realizado por NewsGuard – plataforma creada por el periodista Steven Brill y el ex editor del Wall Street Journal, Gordon Crovit, que proporciona herramientas transparentes para contrarrestar la desinformación [[LINK:EXTERNO|||about:blank|||– ]]ha revelado que aún el 20 % de los resultados de búsqueda de TikTok sobre noticias en tendencia proporcionainformación falsa.

Si a eso le sumamos decisiones como la efectuada por Elon Musk en la red social X, antes conocida como Twitter, de reducir el personal dedicado a verificar la desinformación, la preocupación aumenta y, al mismo tiempo, pone de relieve el papel crucial que van a jugar los medios de comunicación en todo este contexto. En las últimas semanas vimos como X jugó un papel crucial en la difusión masiva de deepfakes de Taylor Swift, la medida empleada por parte de la plataforma para frenar el incidente fue limitar las búsquedas por nombre de la cantante, sin embargo, cuando se efectuó la restricción, ya algunas de estas imágenes había llegado a superar las 45 millones de visualizaciones.

Los deep fakes y las noticias falsas son un serio desafío para la democracia, destacando la necesidad de una prensa libre y robusta para desmentir falsedades y mantener la integridad de lo compartido públicamente. La estabilidad democrática depende de la colaboración entre medios, reguladores y el público para garantizar la veracidad de la información y la diversidad de opiniones. En un momento significativo a nivel global, la colaboración entre los medios de comunicación, los reguladores y el público es fundamental para asegurar la preservación de la información veraz y la diversidad de puntos de vista. Nos enfrentamos, no solo a un desafío, sino también a la oportunidad de fortalecer los cimientos de nuestras sociedades en base a la verdad, el rigor y la transparencia.