Un algoritmo impreciso condiciona la libertad de los presos
Un algoritmo impreciso condiciona la libertad de los presos
Cuando entró en la prisión de Brians tenía a sus espaldas una larga trayectoria de consumo de drogas que le habían llevado a vivir en la calle. Después de un año y medio internada, actualmente no consume, ha dejado la metadona, asiste a los cursos y se presenta a todas las entrevistas. Los psicólogos que la acompañan en el centro consideran que está preparada para salir de permiso pero el juez le tumba sistemáticamente las peticiones alegando que su último Riscanvi, el algoritmo que predice el riesgo de reincidencia de los presos, dictaminó que era alto. Desde Metzineres, una cooperativa que la asesora, denuncian que hay poco que hacer: ignoran cuál de los 43 factores que tiene en cuenta provoca que a pesar de sus avances se la siga considerando de alto riesgo.
El algoritmo Riscanvi lleva casi doce años implementado en las prisiones catalanas pero todavía no existe ningún mecanismo de gobernanza público que lo evalúe y que permita saber qué peso tienen cada uno de los 43 factores de riesgo que valora la herramienta, que además cambian según el género, edad y origen del preso. El resultado del riscanvi es público para todos los implicados pero la información de cuánto pesa cada factor de riesgo no la conocen ni los funcionarios que trabajan en prisión, ni los abogados que tienen que defender a sus clientes, ni los jueces de vigilancia que deniegan o aceptan los permisos y ni mucho menos la ciudadanía en general.
Lleva casi doce años implementado en las prisio
nes pero todavía no existe ningún mecanismo que lo evalúe
Sin transparencia ni auditoría no solo se ve mermado el derecho de defensa del reo, sino que además es imposible evaluar la eficacia predictiva del algoritmo, saber cuáles son los sesgos que lleva incorporados o de qué manera condiciona las decisiones de jueces y fiscales.
La introducción de la inteligencia artificial para mejorar procesos también tiene su lado positivo: en el caso del Riscanvi ha permitido mejorar el escrutinio de los presos a través de técnicas estadístico-matemáticas y homogeneizar las valoraciones del riesgo entre los diferentes centros penitenciarios. Pero faltan herramientas de transparencia para que todos los implicados puedan conocer al detalle el funcionamiento de la herramienta.
No hay comentarios:
Publicar un comentario