RisCanvi: el algoritmo que determina el futuro de los presos en Cataluña

Desde 2009, los centros penitenciarios en Cataluña utilizan un algoritmo conocido como RisCanvi para asistir en la toma de decisiones sobre la puesta en libertad de los presos. No obstante, con la implementación de la normativa de datos y el nuevo Reglamento Europeo de Inteligencia Artificial, es probable que esta herramienta deba someterse a una revisión exhaustiva.

RisCanvi, o Protocolo de valoración del riesgo, fue creado por el Departamento de Justicia, Derecho y Memoria de la Generalitat de Cataluña. El objetivo principal era abordar la preocupación social respecto a la reincidencia delictiva violenta y mejorar la tecnificación y calificación de los profesionales de la ejecución penal en Cataluña.

Funcionamiento de RisCanvi

RisCanvi es un sistema predictivo que evalúa la probabilidad de reincidencia delictiva, basándose en diversos factores de riesgo como el tipo de crimen, la personalidad del preso y su comportamiento dentro y fuera de prisión. A diferencia de los sistemas de aprendizaje automático, RisCanvi no aprende ni se adapta con el tiempo, sino que opera bajo un conjunto fijo de parámetros.

La herramienta valora tanto datos históricos como variables subjetivas, basadas en estudios científicos, para ofrecer una evaluación integral. Psicólogos, educadores sociales, criminólogos y otros especialistas nutren el sistema a través de entrevistas semestrales con los presos, asignando valores a cada variable analizada según su juicio profesional.

Aunque el resultado de RisCanvi puede a veces contradecir las recomendaciones de los profesionales, la decisión final recae en el juez y el fiscal, quienes solo reciben la puntuación final del algoritmo. Esto limita la capacidad de valorar individualmente cada caso y sus circunstancias específicas.

Impacto en la Protección de Datos Personales

El uso de RisCanvi implica la creación de perfiles detallados de los presos, lo que podría entrar conflicto con el Reglamento General de Protección de Datos (RGPD) y la Ley Orgánica 7/2021 sobre protección de datos personales en el ámbito penal. Estas normativas definen el perfilado como cualquier tratamiento automatizado de datos personales para evaluar o predecir aspectos personales, y establecen el derecho de los individuos a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado que produzcan efectos jurídicos o les afecten significativamente.

El artículo 22 del RGPD y el artículo 14 de la LO 7/2021 prohíben las decisiones basadas únicamente en tratamientos automatizados, salvo excepciones específicas autorizadas por ley. Aunque RisCanvi no toma decisiones completamente automatizadas, el resultado que proporciona es un elemento crucial en las decisiones judiciales, lo que plantea dudas sobre la individualización y los derechos de los presos.

Reglamento Europeo de Inteligencia Artificial

El recientemente aprobado Reglamento Europeo de Inteligencia Artificial clasifica los modelos predictivos en el ámbito judicial y penitenciario como de "alto riesgo". Estos modelos deben cumplir con estrictos requisitos de transparencia y calidad de datos. Para alinearse con esta regulación, las autoridades de la Generalitat de Cataluña deberán revisar y ajustar el funcionamiento de RisCanvi para garantizar que opera con la transparencia y calidad necesarias.