¡Alerta! Esta IA te permite clonar la voz de cualquier persona gratis y hacer que diga lo que quieras

El pasado lunes 23 de enero fue una fecha importante para la start up de IA ElevenLabs. Fundada en 2022, esta joven empresa de tecnología de voz lanzó su herramienta Prime Voice AI basada en inteligencia artificial para clonar voces pero, al contrario de lo que suele suceder con este tipo de tecnologías, la puso a disposición de todos los usuarios en una beta abierta y sin medidas que impidieran usos indebidos. Y pasó lo que tenía que pesar con una herramienta que permite crear deepfakes de voz con calidad de forma rápida, sencilla y gratuita.

En tan solo unos días, Internet comenzó a llenarse de clips de audios creados por la tecnología de ElevenLabs con celebridades soltando toda clase de comentarios inapropiados, cuando no barbaridades, de forma completamente convincente. El foro de Internet 4chan generó la tendencia con usuarios publicando audios con contenidos creados con Prime Voice AI como la actriz Emma Watson leyendo fragmentos del Mein Kampf de Adolf Hitler o el comentarista político Ben Saphiro realizando comentarios racistas sobre la congresista Alexandria-Ocasio-Cortez, entre otros.

Una semana después de su lanzamiento, ElevenLabs comenzó a protagonizar titulares no por las excelentes cualidades de su modelo texto a voz sino por el uso que se le estaba dando. Y la empresa ha reaccionado anunciando una serie de salvaguardas que ha comenzado a implementar.

Thank you everyone for your advice. We love what you’re creating, but a set of actors use our tech for malicious purposes. We decided to take the following steps to address the issues:

— ElevenLabs (@elevenlabsio) January 31, 2023

ElevenLabs ha explicado este martes en su cuenta de Twitter que tiene la capacidad de vincular cualquier audio creado por su IA con el usuario que lo ha hecho. La próxima semana publicará una herramienta que permitirá verificar si un audio ha sido creado con Prime Voice AI para que se pueda denunciar un mal uso. La opción de crear voces personalizadas de las cuentas gratuitas pasará a estar disponible solo en los planes de pago y será necesario vincular una tarjeta de crédito para la prueba gratuita. Es decir, se aumentan las salvaguardas pero se mantiene la opción de clonar voces personalizadas de forma gratuita, aunque de forma más limitada.

La compañía asegura que estas medidas le permitirán combatir el uso indebido de su herramienta y que están rastreando todo el contenido dañino realizado con su IA que les ha sido reportado para cancelar las cuentas de los usuarios responsables.

Cómo clonar la voz de cualquier persona con Prime Voice AI

Aunque ElevenLabs ha asegurado que eliminará la opción de crear voces personalizadas de las cuentas gratuitas “tan pronto como sea posible”, no ha implementado la medida en el momento de redactar esta información. El modelo de lenguaje texto a voz de la compañía produce unos excelentes resultados con una notable pega, por el momento, que es el acento estadounidense que mantiene cuando se prueba en otro idioma. Por ese motivo, su uso es adecuado para clonar voces de personas con esta nacionalidad mientras que en otras lenguas deja que desear. Para clonar una voz, debes seguir estos pasos:

• Accede a Prime Voice AI con un navegador.
• Regístrate como usuario haciendo clic en Sign Up. Podrás crear una cuenta única para Eleven Labs o utilizar la tuya de Google o Facebook para darte de alta.
• Una vez concluido el registro, la web te mostrará la sección de Speech Synthesis donde puedes elegir un tipo de voz entre 9, tanto de hombres como de mujeres, con acento estadounidense. A continuación, escribe el texto que quieres que esa voz diga y pulsa en Generate para obtener de forma prácticamente instantánea el clip de audio que puedes reproducir y descargar en formato MP3.
• Para crear una voz personalizada, debes pulsar en la opción Add a voice o, en el menú superior, Voice Lab>Voice Cloning.
• Haz clic en Add Instant Voice y a continuación selecciona un archivo de audio en tu equipo con la voz a clonar. Debe durar sobre un minuto y escucharse sin ruidos de fondo. Ponle un nombre al archivo que vas a crear, acepta las condiciones del servicio y pulsa en Add Voice.
• De vuelta en Speech Synthesis, ya puedes seleccionar la voz que has subido entre las opciones disponibles y escribir el texto que quieres que diga.