Así funciona FakeCatcher, el detector de vídeos creados con inteligencia artificial

Si identificar una foto generada por una inteligencia artificial ya es complicado y señalar un audio falsificado con esta técnica es casi imposible, hacerlo con un vídeo puede ser una tarea titánica pero resulta imprescindible teniendo en cuenta que nos fiamos de lo que vemos… en todos los aspectos de la vida. Para evitar las consecuencias de esto, se ha desarrollado FakeCatcher, una herramienta para detección de vídeos creados con IA.

El desarrollo es responsabilidad del equipo de Intel y se basa en el análisis del "flujo sanguíneo" en píxeles de video para arrojar resultados en milisegundos con una precisión del 96 %. Se trata del primer detector de falsificación profunda en tiempo real del mundo. “Los videos deepfake están en todas partes ahora. Probablemente ya los hayas visto: videos de celebridades haciendo o diciendo cosas que en realidad nunca hicieron – explica Ilke Demir, responsable de Intel Labs y una de las desarrolladoras de FakeCatcher –. Desde 2014 han evolucionado mucho y se han usado para contenido para adultos, generar noticias políticas o suplantar identidades”

Los videos falsos profundos o vídeo deepfake son una amenaza creciente. Las empresas gastarán más de 180 mil millones de euros en soluciones de ciberseguridad, de acuerdo con datos de la consultora Gartner. A esto hay que sumarle que no solo es difícil señalarlos, más aún es hacerlo en tiempo real para evitar que se difundan rápidamente por redes sociales y perder el control de los mismos. Así, el engaño debido a estas falsificaciones puede causar daño y tener consecuencias negativas, como la disminución de la confianza en los medios.

Hay varios casos de uso potenciales para FakeCatcher. Las plataformas de redes sociales podrían aprovechar la tecnología para evitar que los usuarios suban videos falsos dañinos. Las organizaciones de noticias globales podrían usar el detector para evitar la amplificación involuntaria de videos manipulados. Y las organizaciones sin fines de lucro podrían emplear la plataforma para democratizar la detección de deepfakes para todos.

Demir, ha diseñado esta plataforma junto a Umur Ciftci de la Universidad Estatal de Nueva York en Binghamton utilizando hardware y software de Intel, se ejecuta en un servidor e interactúa a través de una plataforma basada en la web. Por el lado del software, un conjunto de herramientas especializadas forman la arquitectura optimizada de FakeCatcher: modelos de IA para algoritmos de detección de rostros y puntos de referencia. Los bloques de visión por ordenador se optimizaron para procesar imágenes y videos en tiempo real y también se utilizo el proyecto Open Visual Cloud (una iniciativa de software libre para análisis y procesamiento de vídeos e imágenes). En cuanto al hardware, la plataforma de detección en tiempo real puede ejecutar hasta 72 flujos de detección diferentes simultáneamente en procesadores escalables Intel Xeon de tercera generación.

La ventaja de esta herramienta es que, mientras la mayoría de los detectores basados en el aprendizaje profundo analizan los datos sin procesar para tratar de encontrar signos de falta de autenticidad, FakeCatcher busca pistas auténticas en videos reales, al evaluar lo que nos hace humanos: un "flujo de sangre" sutil en los píxeles de un video. Cuando nuestro corazón bombea sangre, nuestras venas cambian de color. Estas señales de flujo sanguíneo se recopilan de todo el rostro y los algoritmos traducen estas señales en mapas espaciotemporales. Luego, utilizando el aprendizaje profundo, podemos detectar instantáneamente si un video es real o falso. Básicamente es un detector de vida… en un ordenador.