Una persona puede pasar más horas encerrada, moverse con menos libertad o tener menos opciones de estudiar por una puntuación que intenta anticipar lo que hará. Desde diciembre, Michigan probará un nuevo sistema para ayudar a decidir el nivel de seguridad de sus presos. El Gobierno promete que predecirá la violencia alrededor de un 30 % mejor. Suena preciso. El problema es que no ha publicado lo necesario para comprobarlo.
La noticia circuló con una idea todavía más rotunda: una inteligencia artificial iba a predecir qué presos cometerían futuros delitos. No es exactamente eso. El anuncio oficial de Michigan habla de riesgo de violencia dentro de prisión y de asignar uno de sus niveles de seguridad.
No es la primera vez que un titular convierte una herramienta concreta en algo casi autónomo. En Nebula ya ocurrió al investigar la supuesta inteligencia artificial “rebelde” que atacó un sistema del Gobierno australiano: la historia real era menos cinematográfica, pero explicaba mucho mejor dónde estaba el riesgo.
La diferencia importa. Esa clasificación determina cuánta vigilancia recibe una persona, cómo puede moverse y a qué actividades accede. El programa piloto empezará el próximo 1 de diciembre en varias cárceles masculinas y afectará a decisiones dentro de un sistema con unas 32.000 personas encarceladas.
Michigan todavía no ha estrenado su sistema. En las prisiones catalanas, un algoritmo parecido lleva quince años influyendo en decisiones penitenciarias. Este documental muestra qué puede significar una puntuación de riesgo para la persona que la recibe.
Un porcentaje al que le falta la letra pequeña
Para entender una mejora del 30 % hacen falta dos cifras: el resultado anterior y el nuevo. También hay que saber qué se está contando. Michigan no explica si habla de aciertos totales, de agresiones detectadas o de falsas alarmas evitadas.
No se publica qué considera como violencia futura, durante cuánto tiempo observa a cada persona ni cómo funciona el modelo en distintos grupos. La empresa sin ánimo de lucro Recidiviz describe una herramienta que actualiza clasificaciones cuando cambia la conducta y permite que el personal corrija resultados. Esas características no revelan el cálculo que sostiene el 30 %.
Por ahora, la cifra es una expectativa de la Administración, pero no un resultado que cualquiera pueda reproducir.
Dos errores que no significan lo mismo
Para ver por qué falta información, analicé una base pública muy conocida: 6.172 evaluaciones del sistema COMPAS recopiladas por ProPublica en Florida. No es el algoritmo de Michigan ni estudia la misma situación. Este sirve como ejemplo real de lo que desaparece cuando todo se resume en un porcentaje.
COMPAS asignó notas de riesgo del 1 al 10. Si coloco el corte en 5, considero riesgo alto cualquier puntuación entre 5 y 10. Esa regla acierta en el 66,1 % de la muestra, pero comete 1.018 falsas alarmas: personas marcadas como riesgo alto que no reincidieron durante los dos años siguientes. También deja 1.076 casos al otro lado: personas marcadas como riesgo bajo que sí reincidieron.
Mueve el corte para comprobar cómo cambia la decisión:
aciertos totales
falsas alarmas
reincidencias no señaladas
El corte habitual equilibra los dos errores, pero supera el millar en ambos.
Subir el corte parece prudente porque reduce las falsas alarmas. En 8 quedan 297. Pero las reincidencias no señaladas ascienden a 1.962. No existe un botón que borre el error. Solo decidimos cuál toleramos más y quién asume sus consecuencias.
Los promedios también pueden ocultar a quién perjudica más una predicción. En el análisis de Nebula sobre el reloj de ADN que calcula la edad de una persona, el modelo sumaba años a los jóvenes y se los restaba a los mayores. Un error medio aceptable no garantizaba que fallase igual para todos.
El promedio esconde a quién falla
La precisión global de COMPAS es parecida para las personas registradas como negras y blancas: 64,9 % frente a 67,2 %. Podríamos detenernos ahí y concluir que funciona casi igual. Al separar los fallos aparece otra historia.
Entre quienes no reincidieron, el sistema marcó erróneamente como riesgo alto al 42,3 % de las personas negras y al 22,0 % de las blancas. Entre quienes sí reincidieron sucedió lo contrario: clasificó como riesgo bajo al 28,5 % de las negras y al 49,6 % de las blancas.
Esto no demuestra cómo se comportará el nuevo sistema de Michigan. Demuestra qué debería publicar Michigan para que podamos juzgarlo: los dos tipos de error, sus denominadores y su reparto entre grupos, además del promedio general.
La prueba empieza antes de que llegue la evidencia
Un algoritmo puede ordenar miles de expedientes con rapidez y detectar cambios que una revisión anual pasaría por alto. También puede dar apariencia científica a datos incompletos o desigualdades anteriores. La intervención humana tampoco resuelve el problema si quien revisa solo ve una puntuación y no puede entenderla ni corregir el historial que la alimenta.
El titular decía que una inteligencia artificial predeciría futuros delitos. La realidad comprobada es más estrecha: Michigan probará una herramienta para clasificar riesgo de violencia dentro de prisión. La promesa del 30 % podría acabar siendo cierta, pero hoy le faltan las pruebas públicas que permitirían saberlo.
Puedes consultar los cálculos, cambiar todos los umbrales y revisar las limitaciones en el notebook del análisis. Los datos utilizados están disponibles en la copia pública de la base COMPAS.
Fuentes: Departamento de Prisiones de Michigan, Recidiviz, metodología de ProPublica, datos y código originales y noticia de partida de Futurism.
