La inteligencia artificial y la ley

Todos hablan de la inteligencia artificial. Es el tema de moda. Algunos piensan que, de haber existido la IA antes, Shakespeare y Cervantes no habrían sido necesarios, ni existido como tales. Los guionistas de las películas de Hollywood tienen un conflicto colectivo con las productoras porque parece que la IA los sustituye. Al fin y al cabo, la pregunta es si la IA va a suplantar la creatividad humana o es algo más que una gran base de datos que los organiza y estructura, un gran blockchain o un conjunto de metadatos, una enciclopedia de los conocimientos de la Humanidad que los usa para crear lo que ya se creó por el ser humano.

La pregunta añadida trata de desvelar si hay peligros de un indebido uso de la IA y si la ley tiene margen para proteger esos peligros. Creemos que debe haber una regulación legal de la IA y de sus usos, y así lo ha entendido la UE al proponer recientemente un Reglamento sobre la IA, pues, la conciencia de dicha regulación parece ya general en la UE, en China y en USA, de tal manera que no quede solo en manos de las grandes tecnológicas de Silicon Valley.

Pensemos en una IA descontrolada que utilice programas o aplicaciones para influir en el voto de las elecciones, en las decisiones de los directivos de las sociedades, en lo que debemos leer, en la concesión de créditos, en la justicia, en la mente y en un conjunto de las decisiones personales. Resulta obvio que la IA es poder, por lo que deben limitarse sus riesgos. Y ahí, como casi siempre, aparece la Ley, pues el Estado de Derecho es necesario.

La norma europea sobre la IA, conocida como AI Act, entraría en vigor en el año 2026. Este Reglamento tiene como objetivo garantizar que los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad ambiental estén protegidos contra la IA de alto riesgo, al tiempo que impulsa la innovación y convierte a Europa en líder en este campo. El proyecto atiende a la intimidad de las personas, así como a los evidentes intereses de los cuerpos de seguridad en su aplicación cuando se trate de graves delitos o de peligros para la seguridad nacional.

El Reglamento crea la Oficina de la IA dentro de la Comisión de la UE (garantiza la aplicación uniforme del Reglamento en todos los Estados miembros). Se prevé una entrada en vigor progresiva, incluso antes del 2026, ya que a los seis meses se establecerán los sistemas prohibidos de IA y a los doce los requisitos para los sistemas y modelos de IA generativa. El sistema de sanciones impone un porcentaje del volumen total de negocios de la compañía infractora en el año fiscal previo o una cantidad predeterminada aún mayor (7% del volumen de negocios global hasta 7,5 millones o el 1,5% del volumen de negocios, dependiendo de la infracción y el tamaño de la empresa o multa de hasta 35 millones de euros). Se establecen salvaguardias inclusive contra los abusos de la IA por autoridades públicas.

Las categorías de IA que se prohíben son los que se refieren a los sistemas de categorización biométrica que utilizan características sensibles (creencias políticas, religiosas, filosóficas, orientación sexual, raza), los de extracción no dirigida de imágenes faciales de Internet o imágenes de circuito cerrado de televisión para crear bases de datos de reconocimiento facial (así como el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas, puntuación social basada en comportamiento social o características personales), y los que manipulan el comportamiento humano para eludir su libre albedrío (las vulnerabilidades de las personas, ya sea por su edad, discapacidad, situación social o económica).

El proyecto de Reglamento establece sistemas de IA de alto riesgo, como los que se refieren a la influencia en el resultado de las elecciones y en el comportamiento de los votantes. También son tales los destinados a la gestión de infraestructuras críticas, como el tráfico por carretera, suministro de agua o electricidad, los empleados en el ámbito educativo para la calificación de las personas y los que se refieran a las relaciones laborales, entre otros. Y controles para las compañías de seguros y bancos, con posibilidad de quejas de los interesados cuando se den abusos de la IA, encargándose del control en cada Estado la autoridad pública que se designe en el mismo para ello.

Para terminar, pensemos en si seremos libres para contratar. Se debe tener en cuenta que la personalización de la publicidad, las ofertas y los contratos a partir del análisis masivo y tratamiento automatizado de los datos personales de los usuarios y su perfilado son estrategias comerciales frecuentes actualmente en la contratación digital, que ha de ser vigilada y controlada para evitar discriminaciones y vulneraciones de derechos.

José Manuel Suárez Robledano. Magistrado y profesor de Derecho Internacional.