Source: The Conversation – (in Spanish) – By Miquel Julià-Pijoan, Profesor de Derecho Procesal, UNED – Universidad Nacional de Educación a Distancia
El uso de herramientas algorítmicas en el ámbito penitenciario español plantea problemas jurídicos relevantes. Una investigación periodística reveló que las prisiones españolas continúan utilizando un instrumento diseñado a comienzos de la década de 1990 que no ha sido actualizado de manera sustancial desde entonces para decidir cuándo conceder permisos de salida. El dato no es menor: se trata de una herramienta que influye de forma directa en decisiones con impacto inmediato sobre derechos fundamentales de las personas privadas de libertad.
Pero el problema va más allá de la obsolescencia tecnológica. Incluso cuando estos instrumentos han sido revisados o sustituidos por modelos más recientes, persisten déficits estructurales de gran calado jurídico. La opacidad del funcionamiento interno, la falta de explicaciones de los criterios utilizados y la dificultad de someter los resultados a un control jurisdiccional efectivo siguen siendo constantes.
RisCanvi en Catalunya
El caso de RisCanvi, utilizado en el sistema penitenciario catalán, es especialmente ilustrativo.
Se trata de una herramienta técnica de apoyo a la decisión penitenciaria: es un algoritmo. Desde su creación, y hasta 2021, se aplicó en más de 89 000 casos y se ha utilizado para decidir cuándo una persona presa en Catalunya podía obtener un permiso de salida o avanzar en su proceso de reinserción. Todo ello a partir de una pregunta aparentemente sencilla: ¿qué riesgo representa que esta persona salga a la calle?
La cuestión que hoy se plantea no es si evaluar el riesgo de reincidencia es legítimo sino cómo se hace, con qué datos y bajo qué garantías. Porque cuando la respuesta la da un algoritmo, el derecho exige algo más que eficacia: exige legalidad, transparencia y no discriminación.
Un sistema decisivo que casi nadie puede examinar
El funcionamiento interno de RisCanvi es profundamente opaco. Se desconoce cómo se combinan las variables, qué peso tiene cada factor o de qué modo se corrigen posibles sesgos. Esta falta de explicabilidad entra en tensión directa con el principio de transparencia algorítmica que el Tribunal Supremo ha reconocido recientemente para los instrumentos utilizados por la Administración.
No se trata de una carencia meramente técnica. Dado el alcance del sistema, la opacidad dificulta seriamente el control de sus resultados y desarticula, en la práctica, el derecho de defensa de las personas afectadas, que no pueden conocer ni impugnar los criterios que han condicionado la decisión.
De hecho, el único aspecto del sistema al que se ha tenido acceso es el listado de variables que analiza. En su versión “completa”, utilizada cuando el riesgo se considera elevado, RisCanvi se basa en 43 variables, todas ellas tratadas como factores de riesgo. Su mera presencia empeora la valoración final y aumenta la probabilidad de una decisión restrictiva del derecho a la libertad.
RisCanvi evalúa un conjunto amplio de factores que incluyen tanto variables conductuales como información de especial sensibilidad. Entre ellas se encuentran la presencia de trastornos mentales, el consumo de alcohol u otras drogas, los intentos de autolesión, el comportamiento sexual, determinados valores personales, la carencia de recursos económicos, la ausencia de apoyo familiar o la existencia de antecedentes delictivos en la familia de origen.
Junto a estas variables, el propio manual del protocolo reconoce la incidencia de cuatro elementos adicionales –sexo, edad, nacionalidad y situación penal– en el cálculo final del nivel de riesgo. En otras palabras, el algoritmo no se limita a evaluar lo que una persona ha hecho, sino que incorpora quién es, de dónde procede y en qué condiciones vive.
¿Un algoritmo que discrimina?
La identificación de estas variables tiene su origen en la investigación psicológica y resulta coherente desde esa óptica. Sin embargo, cuando tales variables se trasladan al ámbito jurídico –y, en particular, condicionan la restricción de derechos fundamentales– dejan de ser una cuestión meramente técnica.
En este contexto, la aplicación de estos instrumentos debe someterse a los principios y garantías establecidos por el ordenamiento jurídico, como la legalidad, la igualdad y la prohibición de discriminación. Es en este punto donde afloran las principales tensiones.
Muchos de estos datos pertenecen a categorías especialmente protegidas por el derecho español y europeo, precisamente porque su uso puede generar estigmatización y trato desigual. La normativa española y la de la Unión Europea sobre protección de datos en el ámbito penal no solo limita su tratamiento, sino que prohíbe expresamente la elaboración de perfiles que produzcan discriminación.
Sin embargo, en RisCanvi estos elementos funcionan como agravantes automáticos: una persona con un trastorno mental, joven, extranjera, con una determinada conducta sexual o una situación económica precaria puede obtener un peor pronóstico que otra en situación comparable que no presenta esas características. Y con ello, se eleva la posibilidad de que se restrinja su derecho a la libertad.
El derecho de la Unión Europea ha sido tajante al respecto: no es lícito establecer un trato desfavorable por estos motivos, ni siquiera cuando se invoquen datos estadísticos. El Tribunal de Justicia de la Unión Europea ya rechazó este tipo de razonamientos en ámbitos como el de los seguros, donde se pretendía justificar diferencias por sexo a partir de datos actuariales.
En este sentido, el Tribunal Europeo de Derechos Humanos ha insistido en que las decisiones penitenciarias deben basarse en evaluaciones individualizadas, no en atribuciones automáticas derivadas de pertenecer a un grupo.
En una sentencia reciente, el Tribunal puso en duda que diferencias basadas en el sexo –aunque se apoyen en datos empíricos– puedan justificar restricciones en el acceso a permisos penitenciarios. La razón es estructural: el principio de resocialización es universal y no admite modulaciones basadas en características personales protegidas.
Más que tecnología: una cuestión democrática
El debate sobre RisCanvi no es técnico, ni exclusivo de expertos: es una cuestión democrática.
Aceptar que un algoritmo penalice automáticamente ciertas características personales equivale a normalizar una discriminación institucional, revestida de neutralidad científica.
Cuando una herramienta informática condiciona quién puede salir de prisión o avanzar hacia la reinserción, la pregunta decisiva no es si el algoritmo es eficiente, sino si es legítimo.
Miquel Julià-Pijoan no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.
– ref. Cuando un algoritmo opaco decide si un preso está listo para reinsertarse – https://theconversation.com/cuando-un-algoritmo-opaco-decide-si-un-preso-esta-listo-para-reinsertarse-271172