10 cosas que como usuario de internet debes saber sobre el deepfake

En medio de la disputa por el dominio de la inteligencia artificial y la fabricación de chips, otras empresas enfrentan preocupaciones relacionadas a estas tecnologías. Un ejemplo son los medios de comunicación y organizaciones gubernamentales, quienes constantemente luchan contra la amenaza del deepfake y su capacidad para falsificar medios audiovisuales.

Un vistazo al origen del deepfake

Un deepfake es capaz de cambiar nuestra percepción digital, generando toda clase de videos o imágenes falsas y hacerlas pasar por medios reales. Si bien su uso se consolidÓ a mediados de 2017, la verdad es que es una práctica que nació originalmente en 2012. Incluso entonces, los medios ya transmitían cierta preocupación, al pensar en las posibilidades de esta tecnología y cómo afectaría su futuro. Hoy en día, sus temores son una realidad y plantea serios desafíos en términos de seguridad.

Difamación de personas famosas y políticos

Esta tecnología tiene el potencial de manipular la percepción de comunidadesenteras respecto a una persona, político o figura pública en general. Ya sea creando videos falsos que sean convincentes para redes sociales o imágenes que los muestren haciendo cosas que nunca ocurrieron. De ahí que sean un peligro tanto para los afectados como para la industria de la comunicación en general. Sobre todo, cuando ya casi estamos en época de elecciones, por lo que su proliferación es aún mayor.

Generación automática de contenido falsificado

Como mencionamos anteriormente, los deepfakes se basan en tecnología de IA y utilizan algoritmos de aprendizaje automático para generar contenido falso. Esta misma característica es lo que llevaría a su constante evolución, puesto que los algoritmos mejoran con entrenamiento, volviéndose más sofisticados y precisos. Lo que a su vez, lo convierte en una herramienta peligrosa en manos de aquellos con las competencias digitales necesarias.

Son muy difíciles de detectar para el ojo humano

Esta manipulación es realmente difícil de detectar a simple vista, e incluso utilizando algoritmos especializados resulta un desafío. Debido a que analiza grandes cantidades de datos reales –ya sea fotografías, audios, documentos o videos– para falsificar su contenido. Así pues, detectando y adoptando patrones para hacerlos más convincentes. Un desafío que llevaría a entidades, desde empresas de tecnología e investigadores hasta gobiernos, a invertir en métodos para abordar este problema.

Más países se unen en la lucha contra la desinformación

Los desafíos del deepfake son una realidad para muchas naciones. De ahí que organizaciones enteras como Unión Europea, el G7 y otras entidades internacionales implementen medidas robustas para combatir la creciente amenaza de la desinformación. Esto incluye la manipulación de contenido audiovisual, con el fin de proteger la integridad de eventos importantes como las futuras elecciones presidenciales.

No solo afectan a personajes famosos

Los deepfakes no solo representan una amenaza para personajes famosos, sino también para organizaciones enteras. Cada vez son más los casos que involucran empresas reconocidas, los cuales llevaron a personas a creer cualquier cosa que vieran en algún video falsificado. De esta manera, generando polémicas y difundiendo información engañosa que de una u otra forma terminó por afectar la reputación de la marca.

Su uso no está al alcance de todos los ciberdelincuentes

La tecnología deepfake no está al alcance de todos los piratas informáticos. Ya que su aplicación requiere de ciertos conocimientos, habilidades y recursos que no están al alcance de todos los malintencionados en Internet. De hecho, implica un profundo conocimiento en algoritmos informáticos, procesamiento y síntesis de voz. Así como acceso a grandes bases de datos para entrenar dichos algoritmos, y ya ni hablar técnicas de programación o conocimientos en ingeniería social.

Existen los deepfakes benignos

En este punto, cabe mencionar que no todo proviene del lado más oscuro del Internet. Puesto que existen casos de deepfakes benignos o que no están directamente relacionados con actividades maliciosas. Un ejemplo de esto, lo encontramos en la industria cinematográfica, donde utilizan estas técnicas para sus efectos especiales. Esto les permite incluso recrear la apariencia de actores fallecidos, como es el caso de Paul Walker en las secuelas de ‘Fast & Furious’.

Impactan profundamente la percepción de la información en línea

Estas prácticas son capaces de tener un impacto masivo en la información que existe en Internet. No son raros los escenarios de deepfakes extremadamente convincentes que se hicieron pasar por figuras políticas o líderes empresariales, difundiendo declaraciones falsas o encuentros con otras personas que nunca sucedieron. Algo que fácilmente llevaría a la propagación masiva de la desinformación, alterando la percepción de cientos o millones de personas.

Las plataformas de contenido multimedia buscan combatir el deepfake

Afortunadamente, cada vez más plataformas toman medidas para combatir el mal uso de esta tecnología. De hecho, varios gigantes tecnológicos invierten en el desarrollo de herramientas de detección. Además de otros que se aliaron con entidades gubernamentales para financiar proyectos de investigación. Esto con el objetivo de prevenir y mitigar cualquier posible daño que el deepfake pueda causar a la industria.