Youtube amenaza con la eliminación de vídeos a los creadores que no revelen si han usado IA

El gigante de los vídeos Youtube vuelve a encontrarse incapaz de abordar los problemas que surgen por la propia naturaleza de su existencia. La llegada de la Inteligencia Artificial no ha hecho si n oponérselo mucho más difícil, con millones de usuarios usando herramientas de Inteligencia Artificial para buenos propósitos en algunos casos, en otros generando confusión, y, lamentablemente en otros para potenciar la falsedad de los deepfakes y engaños por el estilo. Por eso Youtube obligará a partir de este año a los usuarios a que identifiquen cuáles de sus vídeos han utilizado la tecnología para elaborar metrajes "alterados o sintéticos". "Todo el contenido subido a YouTube está sujeto a nuestras Normas comunitarias , independientemente de cómo se genere, pero también sabemos que la IA introducirá nuevos riesgos y requerirá nuevos enfoques", aseguran desde la empresa.

YouTube está implementando nuevas reglas para el contenido de inteligencia artificial, incluido el requisito de que los creadores revelen si han utilizado inteligencia artificial generativa para crear videos que parezcan realistas. El pasado 15 de noviembre, Youtube apuntó en su blog que acometerá una serie de actualizaciones de políticas relacionadas con la IA. La plataforma dijo que los creadores que no revelan si han utilizado herramientas de inteligencia artificial para crear videos "alterados o sintéticos" se tendrán que enfrentar a sanciones que incluyen la eliminación de su contenido o la suspensión de la plataforma con el programa para el reparto de ingresos.

"La IA generativa tiene el potencial de desbloquear la creatividad en YouTube y transformar la experiencia de los espectadores y creadores en nuestra plataforma", escribieron en la publicación del blog Jennifer Flannery O'Connor y Emily Moxley, vicepresidentas de gestión de productos. "Pero igualmente importante es que estas oportunidades deben equilibrarse con nuestra responsabilidad de proteger a la comunidad de YouTube".Ya en septiembre Youtube, a través de su matriz, Google, había actualizado sus condiciones y exigía que los anuncios políticos en YouTube y otras plataformas de Google que utilizan inteligencia artificial vengan con una etiqueta de advertencia destacada.

Según los últimos cambios, que entrarán en vigor el próximo año, los YouTubers tendrán nuevas opciones para indicar si están publicando videos generados por IA que, por ejemplo, representen de manera realista un evento que nunca sucedió o muestren a alguien diciendo o haciendo algo que sí hizo y en realidad no es así. "Esto es especialmente importante en los casos en los que el contenido trata temas delicados, como elecciones, conflictos en curso y crisis de salud pública, o funcionarios públicos", dijeron O'Connor y Moxley.

Los espectadores recibirán alertas sobre videos modificados con etiquetas, incluidos los destacados en el reproductor de videos de YouTube para temas delicados. Además, y conscientes de que incluso con etiquetas, algunos productos pueden violar sus normas de la comunidad, amenazan con eliminarlo directamente que "un vídeo creado sintéticamente que muestra violencia realista aún puede eliminarse si su objetivo es sorprender o disgustar a los espectadores".

La plataforma también está implementando inteligencia artificial para eliminar contenido que infringe sus reglas, y la compañía dijo que la tecnología ha ayudado a detectar "nuevas formas de abuso" más rápidamente. El proceso de quejas de privacidad de YouTube se actualizará para permitir solicitudes de eliminación de un video generado por IA que simula una persona identificable, incluido su rostro o su voz: "No todo el contenido se eliminará de YouTube y consideraremos una variedad de factores al evaluar estas solicitudes. Esto podría incluir si el contenido es una parodia o una sátira, si la persona que realiza la solicitud puede ser identificada de manera única o si presenta a un funcionario público o un individuo conocido, en cuyo caso puede haber un listón más alto".

Los socios musicales de YouTube, como sellos discográficos o distribuidores, podrán solicitar la eliminación de contenido musical generado por IA "que imite la voz única de canto o rap de un artista".