El borrador de la Ley de Inteligencia Artificial de la UE prohíbe la vigilancia biométrica masiva

La Unión Europea ha dado un paso hacia adelante en la normativa sobre el uso de sistemas de inteligencia artificial en su territorio con la aprobación, por parte de los comités de Mercado Interno y Libertades Civiles, del borrador de la Ley de Inteligencia Artificial. Esta Ley establece una definición “tecnológicamente neutra” de lo que es un sistema IA, de forma que pueda ser válida tanto para los sistemas actuales como futuros, y prohíbe aquellos que puedan usarse de forma “intrusiva y discriminatoria” y presenten “un nivel de riesgo inaceptable para la seguridad de las personas”.

La normativa, la primera de estas características en el mundo, adopta un enfoque basado en el riesgo que generan estos sistemas para clasificarlos y establece obligaciones para los proveedores dependiendo de ese nivel de riesgo. Entre los sistemas IA prohibidos se encuentran aquellos que empleen técnicas de manipulación, exploten vulnerabilidades de las personas o se usen para puntuación social; es decir, para clasificar a las personas en base a su comportamiento social, estatus socioeconómico y características personales.

Qué es un sistema IA en la Ley de Inteligencia Artificial

La definición que recoge el borrador señala que un sistema de inteligencia artificial es “un sistema basado en máquinas diseñado para operar con diferentes niveles de autonomía y que puede, para objetivos explícitos o implícitos, generar resultados como predicciones, recomendaciones o decisiones que influyen en entornos físicos o virtuales”.

Qué usos de la inteligencia artificial prohíbe la ley

El borrador de la Ley de Inteligencia Artificial obtuvo 84 votos a favor, 7 en contra y 12 abstenciones en la votación realizada este jueves en los mencionados comités tras las enmiendas admitidas sobre la propuesta original de 2021 de la Comisión Europea. Estas modificaciones prohíben específicamente el uso de sistemas IA en los siguientes casos:

• Sistemas de identificación biométrica remota en tiempo real en espacios públicos.
• Sistemas de identificación biométrica remota que no son en tiempo real, con la única excepción de la persecución de delitos graves y sólo bajo autorización judicial.
• Sistemas de categorización biométrica que empleen características identificativas “sensibles” como sexo, raza, etnia, estado de ciudadanía, religión u orientación política.
• Sistemas policiales predictivos basados en perfiles, ubicación o antecedentes criminales.
• Sistemas de reconocimiento de emociones por parte de las fuerzas del orden, en la gestión de fronteras, el lugar de trabajo e instituciones educativas.
• Recopilación indiscriminada de datos biométricos extraídos de las redes sociales o imágenes de sistemas CCTV (Circuito cerrado de televisión) para crear bases de datos de reconocimiento facial que violan los derechos humanos y el derecho a la privacidad.

La normativa establece un total de cuatro niveles de riesgos para estos sistemas. Los que presenten uno “inaceptable” estarán completamente prohibidos; los de “alto riesgo” fuertemente regulados; los clasificados como de “riesgo limitado” deberán adoptar medidas de transparencia y los de “riesgo bajo o mínimo” no tendrán obligaciones en el marco de esta ley.

Los Miembros del Parlamento Europeo (MEPs) han ampliado la clasificación de áreas de alto riesgo para incluir daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente.

¿Qué sucede con los sistemas como ChatGPT?

La popular inteligencia artificial ChatGPT entra dentro de lo que la ley clasifica como “modelos fundacionales”, aquellos que han sido entrenados con conjuntos de datos a gran escala y pueden adaptarse a una gran variedad de tareas. Estos deberán adoptar medidas adicionales de transparencia que incluyen identificar el contenido generado por IA, diseñar el modelo para prevenir que pueda generar contenido ilegal y publicar resúmenes con los datos protegidos por derechos de autor que han sido utilizados en su entrenamiento.

Los proveedores de este tipo de modelos fundacionales estarán obligados a registrarse en la base de datos de la UE y deberán, además, garantizar una sólida protección de los derechos fundamentales, la salud, la seguridad, el medio ambiente, la democracia y el estado de derecho.

Habrá algunas excepciones a estas normas con el objetivo de promover la innovación en el campo de la inteligencia artificial, tales como las actividades de investigación y los componentes de sistemas IA que operen bajo licencias de código abierto.

Los ciudadanos, por su parte, verán mejorado su derecho a realizar reclamaciones sobre estos sistemas y recibir explicaciones sobre las decisiones basadas en sistemas de alto riesgo que impacten en sus derechos de forma significativa.

Tras la aprobación del borrador por los comités, el co-ponente Brando Benifei ha afirmado que “estamos a punto de implementar una legislación histórica que debe resistir el desafío del tiempo. Es fundamental fomentar la confianza de los ciudadanos en el desarrollo de la IA, establecer el camino europeo para hacer frente a los cambios extraordinarios que ya están ocurriendo, así como orientar el debate político sobre la IA a nivel mundial. Estamos seguros de que nuestro texto equilibra la protección de los derechos fundamentales con la necesidad de proporcionar seguridad jurídica a las empresas y estimular la innovación en Europa.”

Ahora, el borrador debe ser respaldado por el Parlamento en una votación que tendrá lugar durante las sesiones que se celebran entre el 12 y el 15 de junio y tras la que el Consejo Europeo negociará el texto final de la Ley de Inteligencia Artificial.