Ni deepfakes ni estafas electorales: así usa Google la IA para limpiar su publicidad

Google vive de la publicidad, y mantener ese gigantesco ecosistema relativamente limpio de estafadores, anuncios engañosos y contenido dañino es una batalla constante y titánica. Como cada año, la compañía ha publicado su Informe sobre Seguridad de la Publicidad, correspondiente a 2024, donde detalla sus esfuerzos y, sobre todo, saca pecho de cómo la Inteligencia Artificial Generativa, especialmente sus grandes modelos de lenguaje (LLM) más avanzados, se ha convertido en su principal arma en esta guerra sin cuartel.

Ya el año pasado nos contaron cómo la IA les ayudaba a revisar contenido y aplicar políticas más rápido. Pero la gran novedad de 2024 (el informe se centra en los avances conseguidos a lo largo del año pasado), según Google, es que sus IA más potentes no solo actúan como un equipo de limpieza masiva, sino también como un portero de discoteca implacable, impidiendo que muchos de los "malos" siquiera lleguen a entrar en su plataforma publicitaria.

La IA como escudo proactivo

Google explica que sus LLM más recientes son mucho más ágiles que modelos anteriores. Necesitan menos datos para detectar patrones sospechosos y amenazas emergentes, diferenciando con más eficacia entre un negocio legítimo y un intento de estafa. Esto les ha permitido centrarse en detectar y bloquear a los actores maliciosos durante el propio proceso de creación de la cuenta de anunciante, antes de que tengan la oportunidad de lanzar sus campañas fraudulentas.

Las cifras que acompañan esta afirmación son mareantes: en 2024, Google suspendió más de 39,2 millones de cuentas de anunciantes, la inmensa mayoría de ellas antes de que publicaran un solo anuncio.

Para lograrlo, la IA analiza señales como posibles suplantaciones de identidad de empresas o datos de pago sospechosos. A esto se suma el programa de Verificación de Identidad de Anunciantes, ya extendido a más de 200 países, que según Google asegura que más del 90% de los anuncios que vemos provienen de fuentes verificadas.

Más allá de la prevención, la IA también ha potenciado la capacidad de Google para hacer cumplir sus políticas a gran escala sobre el contenido ya existente. Los números de 2024 hablan por sí solos:

• Más de 5.200 millones de anuncios eliminados o bloqueados.
• Más de 9.100 millones de anuncios restringidos.
• Acción contra más de 1.300 millones de páginas de editores que incumplían políticas.
• Medidas a nivel de sitio web contra más de 220.000 portales de editores.

Google destaca que el 97% de las acciones a nivel de página contra editores fueron detectadas inicialmente por sus modelos de IA, lo que agilizó enormemente las revisiones.

Un frente de batalla especialmente relevante en 2024 fue el de las estafas que utilizan deepfakes generados por IA, donde se suplanta la identidad de personajes públicos (con imágenes o audio sintéticos) para promocionar fraudes.

Google afirma haber creado un equipo específico de más de 100 expertos y actualizado su política de información engañosa para atajar este problema, logrando suspender más de 700.000 cuentas infractoras por este motivo y reduciendo, según ellos, las denuncias de este tipo en un 90%. En la lucha general contra el fraude, bloquearon 415 millones de anuncios y suspendieron más de 5 millones de cuentas adicionales.

Elecciones y transparencia en la era de la IA

Habiendo sido 2024 un año con importantes citas electorales en medio mundo, Google también detalla sus esfuerzos para proteger la integridad de estos procesos en su plataforma publicitaria. Ampliaron sus requisitos de verificación y transparencia para anunciantes políticos a más países, exigiendo siempre revelar quién paga por el anuncio y manteniendo un informe público de transparencia.

Además, destaca haber sido la primera gran tecnológica en exigir que se declare el uso de contenido generado por IA en la publicidad electoral. Como resultado de estas políticas, verificaron más de 8.900 nuevos anunciantes electorales y retiraron 10,7 millones de anuncios que provenían de cuentas no verificadas o que incumplían sus normas sobre información manifiestamente falsa.

El informe de Google representa un panorama de lucha constante contra actores maliciosos cada vez más sofisticados, donde la Inteligencia Artificial se ha convertido en la herramienta indispensable teniendo en cuenta la complejidad de las amenazas. Las cifras de bloqueo y suspensión son astronómicas y demuestran la magnitud del problema.

Queda claro que la IA no es solo una fuente de nuevos problemas (como los deepfakes), sino también, según Google, la principal solución para combatirlos a gran escala. Una batalla tecnológica en continua evolución para intentar poner puertas a un campo cada vez más complejo.