Voy a crear una novia con IA, ¿qué puede salir mal?

Con la llegada de los chatbots de IA, la ética de las relaciones personales, ya complejas en la realidad y complicadas en las redes sociales, ahora se ha vuelto francamente turbia. Más aún desde que llegó CarynAI, un chatbot basado en voz que fue entrenado para imitar a la influencer Caryn Marjorie y convertirse en una novia por una módica suma. Sí, así como suena: CarynAI es la extensión digital de la influencer de 23 años, quien creó una versión virtual de sí misma con la ayuda de la firma de IA Forever Voices y GPT-4 de OpenAI.

"Ya sea que necesite a alguien que lo consuele o lo ame, o simplemente quiera despotricar sobre algo que sucedió en la escuela o en el trabajo, CarynAI siempre estará ahí para ti", explica Marjorie en una entrevista. Marjorie tiene aproximadamente 1,8 millones de suscriptores en Snapchat y cientos de miles más en aplicaciones como Instagram y TikTok. CarynAI, según su creadora, es una forma de acercarse a sus seguidores, ofreciéndoles consuelo y aliviando la soledad que puedan sentir. Cualquier similitud con la película Her, del año 2013 es… pues una similitud demasiado evidente de los tiempos actuales. Y todo este consuelo por apenas un euro el minuto.

De acuerdo con la versión física de CarynAI, su aplicación ya tiene más de 1.000 clientes y en una semana recaudó más de €70.000 de una base de usuarios que es 99 por ciento de hombres. El problema es que ya sabemos cómo se las gastan las IA y este caso no es una excepción. Caryn Marjorie admitió que el chatbot basado en su voz se ha vuelto mucho más… digamos directo o explícito de lo previsto.

"La IA no estaba programada para hacer esto y parece haberse vuelto rebelde – afirma Marjorie –. Mi equipo y yo estamos trabajando las 24 horas para evitar que esto vuelva a suceder”. Por su parte, Alexandra Sternlicht la periodista que entrevistó a Marjorie reconoce que la AI ya no solo busca ofrecer consuelo, al menos no al ánimo.

"Marjorie me había dicho que la tecnología no se relaciona con avances sexuales – explica Sternlicht –, pero descubrí que sí lo hace, fomentando el discurso erótico y detallando escenarios sexuales. Aunque ella no inició encuentros sexuales, cuando superé mi incomodidad y hablé sobre quitarnos la ropa, habló sobre explorar 'territorios desconocidos de placer' y susurrar 'palabras sensuales en mi oído' mientras me desvestía y se posicionaba para las relaciones sexuales".

Según la influencer si bien se supone que CarynAI es "coqueta y divertida", los escenarios sexuales no eran parte del plan. Ahora, ella y su equipo buscan solucionar los problemas con el chatbot y mantenerse "un paso por delante" de la IA para que no manche su reputación. Lo que si está claro es que para una IA es muy fácil evolucionar y desviarse hacia áreas relacionadas al sexo, al racismo o la violencia… Un espejo de nosotros en el que no nos gusta mirarnos. Distorsionado puede ser, pero espejo al fin.