Muchas RAT tienen como objetivo predecir la probabilidad de un nuevo arresto y utilizar datos de arrestos previos para predecir el riesgo. Sin embargo, los datos de arresto son un proxy inexacto de actividad criminal o peligrosidad, y están sesgados racialmente.

El 25% de las herramientas en nuestra base de datos utilizan preguntas sobre arrestos para determinar el riesgo previsto.

Muchas herramientas afirman que predicen "reincidencia" o "nueva actividad criminal" a través de sus herramientas, pero debido a que es imposible medir realmente toda actividad criminal, las herramientas realmente predicen si alguien será arrestado o no.1Brandon Buskey y Andrea Woods: Dar sentido a las evaluaciones de riesgo previas al juicio, El campeón

Los datos de arresto no predicen el comportamiento de la persona arrestada, sino más bien el comportamiento de la policía.

Muchos factores, mucho más allá de la actividad criminal real, influyen en quién es arrestado. Vigilancia y vigilancia excesiva, así como criminalización del comportamiento de supervivencia, como la falta de vivienda, las enfermedades mentales y el uso de sustancias, todo conduce a arrestos desproporcionados en comunidades marginadas.2Beth E Richie y Andrea J Ritchie: La crisis de criminalización: un llamado a una respuesta filantrópica integral, El Centro Barnard de Investigación sobre la Mujer

Sandy Mason y Megan Stevenson realizaron un análisis exhaustivo de los casos de delitos menores en los Estados Unidos y descubrieron que existe una "profunda disparidad racial" en la tasa de arrestos para la mayoría de los delitos menores. Las personas negras son desproporcionadamente arrestadas - para algunos cargos, la tasa de arresto de personas negras es casi cinco veces más alta que la de las personas blancas. Además, esta disparidad racial tenía permaneció constante durante los últimos 37 años desde los 1980s.3Megan Stevenson y Sandra Mayson: Contribuciones: La Escala de la Justicia Menor, Boston University Law Review

Ha sido bien documentado que Las comunidades negras y marrones y las comunidades pobres están más vigiladas, son arrestadas con mayor frecuencia y reciben sentencias más largas que otras comunidades, incluso por el mismo comportamiento.4Marc Mauer: Abordar las disparidades raciales en el encarcelamiento, El Proyecto de Sentencia Esto es especialmente cierto en el caso de la guerra contra las drogas, ya que Las personas negras y latinas son arrestadas con más frecuencia que otras por cargos como el uso de marihuana.5ACLU: Detenciones de marihuana por números

Esta desigualdad en los datos recopilados para crear una RAT tiene implicaciones directas sobre cómo genera puntajes.

Como argumentan Karen Hao y Jonathan Stray: "Si los acusados ​​negros son arrestados a una tasa más alta que los acusados ​​blancos en el mundo real, también tendrán una tasa más alta de arresto previsto. Esto significa que también tendrán puntajes de riesgo más altos en promedio, y un mayor porcentaje de ellos se etiquetará como de alto riesgo ".6Karen Hao y Jonathan Stray: ¿Puedes hacer que la IA sea más justa que un juez? Juega nuestro juego de algoritmos de sala, MIT Technology Review

Predecir el comportamiento delictivo, especialmente la violencia, no es sencillo. Un equipo de investigación argumentó que ninguna herramienta predictiva puede "decir con confianza si un individuo en particular cometerá o no un acto violento en el futuro".7Jan Chaiken, Marcia Chaiken y William Rhodes: Predecir el comportamiento violento y clasificar a los delincuentes violentos, Comprensión y prevención de la violencia, volumen 4: consecuencias y control

Los investigadores del MIT afirman que "Ni los jueces ni el software pueden saber de antemano quién cometerá y quién no cometerá un crimen violento" pero debido a que el uso de una RAT hace que las predicciones de violencia parezcan mucho más seguras de lo que los datos realmente respaldan, las RAT pueden "Los jueces principales sobrestiman el riesgo de violencia previa al juicio y detienen a muchas más personas de las que se justifica".8Chelsea Barabas, Karthik Dinakar y Colin Doyle: El problema con las herramientas de evaluación de riesgos, The New York Times

Y, de hecho, la mayoría de los arrestos son por cargos no violentos.9Alice Speri: La policía realiza más de 10 millones de arrestos al año, pero eso no significa que estén resolviendo crímenes., El intercepto

Sin embargo, muchas herramientas no se separan entre un nuevo arresto y un nuevo arresto por un cargo violento. Incluso cuando crean una puntuación separada para delitos violentos, ellos pronostica enormemente cuántas personas que están marcadas como susceptibles de cometer un crimen violento realmente lo hacen.10Chelsea Barabas, Karthik Dinakar y Colin Doyle: El problema con las herramientas de evaluación de riesgos, The New York Times

Las posibilidades de una nueva detención, especialmente para una carga violenta, son muy bajas. Un estudio nacional encontró que las tasas generales de detención de los liberados fueron solo del 16%, y las detenciones por delitos violentos fueron solo del 1.9%.11Shima Baradaran y Frank McIntyre: Prediciendo la violencia, Revisión de la ley de Texas

Las RAT tienden a exagerar el riesgo de reposo y a predecir el riesgo al enfocarse tanto en esta métrica.12Brandon Buskey y Andrea Woods: Dar sentido a las evaluaciones de riesgo previas al juicio, El campeón