Primera condena por crear contenido explícito con IA

Desafortunadamente, era cuestión de tiempo. Si internet facilitó el acceso de los menores a pornografía y la inteligencia artificial propició la creación de imágenes y vídeos con contenido explícito, solo había que contar los días para que ambas cosas se unieran y sucedió en Florida, Estados Unidos, con dos menores arrestados por ello.

De acuerdo con un informe policial citado por la prensa estadounidense, dos estudiantes de instituto de Florida fueron arrestados en diciembre y acusados de delitos graves de tercer grado por supuestamente crear desnudos falsos de sus compañeros de clase. El informe menciona que se trataba de dos niños, de 13 y 14 años, que utilizaron una "aplicación de inteligencia artificial" para generar imágenes explícitas de otros estudiantes "de entre 12 y 13 años". El incidente puede ser el primer caso en Estados Unidos de cargos penales relacionados con imágenes de desnudos generadas por IA.

Los menores fueron acusados de delitos graves de tercer grado en virtud de una ley de Florida de 2022 que penaliza la difusión de imágenes sexualmente explícitas falsas sin el consentimiento de la víctima. Los estudiantes, de la Academia Pinecrest Cove en Miami, fueron suspendidos el 6 de diciembre y el caso fue elevado al Departamento de Policía de Miami-Dade y fueron arrestados el 22 de diciembre.

Si bien se trata de la primera vez que se arresta a un menor por estos hechos, el problema no es nuevo en Estados Unidos: de hecho, es cada vez más común. Actualmente, no existe ninguna ley federal que aborde los desnudos deepfake no consensuados, lo que ha dejado a los diferentes estados intentando averiguar cómo resolver el impacto de la IA generativa en cuestiones de material de abuso sexual infantil, deepfakes no consensuados o pornografía de venganza.

El otoño pasado, el presidente Joe Biden emitió una orden ejecutiva sobre esta tecnología, solicitando a las agencias un informe sobre la prohibición del uso de IA generativa para producir material de abuso sexual infantil. El Congreso aún tiene que aprobar una ley sobre la pornografía deepfake, pero eso posiblemente podría cambiar pronto. Tanto el Senado como la Cámara presentaron esta semana un proyecto de ley, conocida como Ley DEFIANCE de 2024, y el esfuerzo parece contar con el apoyo de los dos partidos principales.

Aunque casi todos los estados ahora tienen leyes que abordan la pornografía de venganza, solo un puñado de estados han aprobado leyes que abordan las imágenes sexualmente explícitas generadas por IA en diversos grados. Las víctimas en estados sin protección legal también han recurrido a litigios. Por ejemplo, una adolescente de 15 años, de Nueva Jersey, está demandando a un compañero de clase por compartir desnudos falsos de IA.

Un caso similar se ha dado en California: el Departamento de Policía de Beverly Hills está investigando un caso en el que estudiantes supuestamente compartieron imágenes que "usaban rostros reales de estudiantes sobre cuerpos desnudos generados por IA". Pero debido a que la ley estatal contra la “posesión ilegal de material obsceno sabiendo que representa a una persona menor de 18 años participando o simulando una conducta sexual” no menciona explícitamente las imágenes generadas por IA, el artículo dice que no está claro si se ha cometido un delito.