Una herramienta para poner marcas de agua en imágenes generadas por IA

Deepfake, fake news, imágenes y hasta vídeos o audios falsos generados por inteligencia artificial. ¿Cómo detectarlos cuando sean “perfectos”? La respuesta que ha dado Google se llama SynthID yb es una herramienta que permite poner marcas de agua en este tipo de imágenes. Su gran ventaja es que es indetectable para el ojo humano. Pero el gigante tecnológico espera que también se pueda usar en un futuro en vídeos y hasta en audios.

Si bien la IA generativa abre las puertas a un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, ya sea intencionalmente o no. Ser capaz de identificar el contenido generado por IA es fundamental para que las personas sepan cuándo interactúan con los medios generados y para ayudar a prevenir la difusión de información errónea.

“Esta tecnología – señala Google en un post - incorpora una marca de agua digital directamente en los píxeles de una imagen, haciéndola imperceptible para el ojo humano, pero detectable para su identificación”.

Inicialmente, SynthID se lanzará para un número limitado de clientes de Vertex AI que utilizan Imagen, uno de los últimos modelos de conversión de texto a imagen que utiliza texto de entrada para crear imágenes fotorrealistas.

“Google Cloud -señala también el post - es el primer proveedor que ofrece una herramienta para crear imágenes generadas por IA de manera responsable e identificarlas con confianza. Esta tecnología se basa en nuestro enfoque para desarrollar e implementar IA responsable y fue desarrollada por Google DeepMind y perfeccionada en asociación con Google Research”.

Hay que aclarar que, al menos por ahora, SynthID no es infalible contra manipulaciones extremas de imágenes, pero sí constituye una herramienta interesante para que tanto las personas como las empresas y organismos públicos que trabajen con contenido generado por IA, puedan hacerlo confiando en el material que desarrollen o compren.

“Es difícil encontrar el equilibrio adecuado entre imperceptibilidad y solidez en las manipulaciones de imágenes – concluye Google -. Las marcas de agua muy visibles, que a menudo se agregan como una capa con un nombre o logotipo en la parte superior de una imagen, también presentan desafíos estéticos para fines creativos o comerciales. Del mismo modo, algunas marcas de agua imperceptibles desarrolladas previamente se pueden perder mediante técnicas de edición simples como el cambio de tamaño. Esta herramienta también podría evolucionar junto con otros modelos y modalidades de IA más allá de las imágenes, como audio, video y texto”.