Independientemente de su ciencia, marca o edad, estas herramientas se derivan de datos que reflejan el racismo estructural y la inequidad institucional que afectan nuestras políticas y prácticas judiciales y policiales. El uso de esos datos luego profundiza la inequidad.

Instituto de justicia preventiva1Instituto de justicia previa al juicio: Posición actualizada sobre herramientas de evaluación de riesgos previos al juicio (2020)

La mayoría de las RAT anteriores al juicio usan elementos del historial legal penal de alguien en su cálculo de riesgo. Estos elementos incluyen condenas anteriores, arrestos, tipo de cargo, si los cargos son violentos, sentencias previas y no comparecer ante el tribunal.

Estas variables basadas en antecedentes penales pueden parecer "objetivas" al determinar el riesgo.

Sin embargo, como se detalla en las siguientes subsecciones, usando pasado arrestos, convicciones, fallas en aparecer, Y la carga actual como medidas de riesgo futuro se basa en una historia de prejuicios raciales y de clase en el sistema legal penal.

Estados Unidos tiene una larga historia de perfil racial y prejuicios raciales y de clase en arrestos, condenas y sentencias.2Ashley Nellis: Naturaleza muerta: el creciente uso de la vida en Estados Unidos y las sentencias a largo plazo, El Proyecto de Sentencia3El proyecto de sentencia: Informe del Proyecto de Sentencia al Relator Especial de las Naciones Unidas sobre las formas contemporáneas de racismo, discriminación racial, xenofobia y formas conexas de intolerancia: en relación con las disparidades raciales en el sistema de justicia penal de los Estados Unidos

Los factores "objetivos" que las herramientas extraen de los datos del sistema legal penal son aportes que surgen de decisiones pasadas tomadas por la policía, los fiscales y los tribunales sobre un individuo. Todos están afectados por la injusticia sistémica.

Como Kay Whitlock y Nancy Heitzeg lo expresaron:4Kay Whitlock y Nancy A. Heitzeg: La reforma de la justicia penal financiada por multimillonarios amplía realmente el sistema carcelario, Truthout ¿Son inofensivas las herramientas de evaluación? Al pretender reducir el "sesgo" en los resultados previos al juicio, los datos que utilizan todavía se basan principalmente en información sobre los encuentros anteriores de una persona con la policía y los tribunales. La suposición tácita es que todos esos "encuentros" no están contaminados por el racismo u otros factores estructurales que predeterminan quién tiene más probabilidades de ser presuntamente criminalizado. Esto, a su vez, legitima la violencia estructural de la policía ”.

Los estudios también han mostrado disparidades raciales en todos los aspectos del sistema legal penal, desde la detención preventiva hasta la libertad condicional. Un estudio de San Francisco encontró que las disparidades raciales funcionaban contra todos los grupos raciales no blancos, especialmente los individuos negros: Los negros tenían menos probabilidades de que se retiraran los cargos, recibían sentencias más largas de encarcelamiento, tenían más probabilidades de ser arrestados por un delito grave y tenían más probabilidades de ser detenidos antes del juicio.5John MacDonald y Steven Raphael: Un análisis de las disparidades raciales y étnicas en las disposiciones de casos y los resultados de sentencia para casos penales presentados y procesados ​​por la Oficina del Fiscal de Distrito de San Francisco, Departamento de Criminología de la Universidad de Pennsylvania y Universidad de California, Berkeley Goldman School of Public Policy

Esto significa que los algoritmos que se crean utilizando datos de antecedentes penales de las últimas décadas están entrenados en datos sesgados, incluso si no utilizan explícitamente la raza o el ingreso como insumos.

La policía, los fiscales y los tribunales definen y recopilan estos puntos de datos, simplificando la complejidad de la experiencia de una persona en el sistema legal penal hasta un recuento de arrestos y condenas anteriores sin contexto individual y humanizador.

Basado en nuestra investigación, El 95% de las jurisdicciones en nuestra base de datos incluyen arrestos previos, cargos actuales o cargos pendientes en su cálculo del riesgo previsto, métricas que cuentan contra alguien a pesar de que son legalmente inocentes.

Debido a que no hay forma de medir cada acto de daño en nuestras comunidades y no se denuncian todos los delitos, Las RAT usan proxies de arresto y condena para predecir el riesgo de retenido,6Asociación en IA: Informe sobre herramientas de evaluación de riesgo algorítmico en el sistema de justicia penal de EE. UU. que, en sí mismo, es un representante de la actividad criminal real. Sin embargo, si alguien es arrestado, condenado, detenido, buscado o vigilado o no, tiene mucho que ver con su raza y clase.7Samantha Melamed: La policía de Filadelfia está buscando más automóviles para la marihuana, pero los críticos dicen que encuentran menos., The Philadelphia Inquirer

Esto significa que "Los datos de arresto, condena y encarcelamiento son vistos más apropiadamente como medidas de respuesta oficial al comportamiento criminal"8Delbert S. Elliot: Mentiras, malditas mentiras y estadísticas de arresto, Centro de estudio y prevención de la violencia. en lugar del comportamiento criminalizado en sí mismo. Las respuestas oficiales al crimen están muy sesgadas.

El uso de datos de décadas anteriores para crear RAT significa que los algoritmos de RAT no tienen en cuenta los cambios en los resultados previos al juicio que las reformas de fianzas más recientes han creado. Esto lleva a "Predicciones de zombies" que sobrestiman el riesgo e ignoran los cambios y reformas en los sistemas previos al juicio.9John L. Koepke y David G. Robinson: Peligro por delante: evaluación de riesgos y el futuro de la reforma de fianzas, Revisión de la ley de Washington

Reconocer este sesgo en la esfera legal penal ni siquiera comienza a abordar la historia de la exclusión social, la falta de apoyo social y la desinversión en comunidades que han impactado fuertemente a estas poblaciones y su relación con la policía.

El uso de datos de antecedentes penales para predecir el riesgo es mucho más complejo que asumir que el comportamiento "malo" pasado puede predecir la peligrosidad futura.

"En última instancia, el problema del sesgo en los datos es una seria amenaza para todo el esfuerzo de la evaluación de riesgos basada en datos" - Laurel Eckhouse, Kristian Lum, Cynthia Conti-Cook y Julie Ciccolini, Layers of Bias: A Unified Approach for Understanding Problemas con la evaluación de riesgos