Las herramientas de evaluación de riesgos previos al juicio (RAT) pueden incrustar sesgo directamente en sus componentes algorítmicos. Se basan en una historia de datos del sistema legal penal que está sesgada en el contexto de la raza, el origen étnico y la clase, ya que nuestro sistema legal penal apunta a las personas pobres y de color a través de tasas más altas de vigilancia, más arrestos, más condenas y sentencias más largas. .

Nuestro objetivo es garantizar que las comunidades entiendan cómo se adoptan las RAT previas al juicio en jurisdicciones de todo el país y la variedad de formas en que pueden afectar los sistemas de toma de decisiones previas al juicio, y dejar en claro a las comunidades locales que pueden luchar por el fin del encarcelamiento previo al juicio eso no consagra RAT previas al juicio, o al menos pone límites importantes al uso de RAT.

Las evaluaciones de riesgos ya se utilizan en jurisdicciones en todo Estados Unidos. Nuestras organizaciones están presionando para poner fin a la fianza de dinero y reducir masivamente el encarcelamiento previo al juicio, sin el uso de algoritmos de evaluación del riesgo previo al juicio.

Pero en aquellas jurisdicciones donde se usan, las RAT deben usarse solo para deshacer el encarcelamiento masivo y reducir las disparidades raciales en las poblaciones de la cárcel y en las condiciones de supervisión comunitaria. Deben ser transparentes y comprensibles para quienes los administran y quienes son evaluados por ellos, y para la comunidad afectada por ellos y su uso.

La forma en que las RAT están diseñadas actualmente no garantiza este resultado.1Asociación en IA: Informe sobre herramientas de evaluación de riesgo algorítmico en el sistema de justicia penal de EE. UU.

Además, las RAT tienden riesgo de exceso de inflación en la forma en que etiquetan el riesgo y hacen recomendaciones, y están sesgados a sobre-predecir el riesgo debido a los datos en los que están capacitados.2Brandon Buskey y Andrea Woods: Dar sentido a las evaluaciones de riesgo previas al juicio, El campeón

También hacen que la “falla” previa al juicio, que generalmente se define como no acudir a la corte o ser arrestada nuevamente, parezca mucho más probable e intencional de lo que realmente es. Y las RAT miden el riesgo grupal para tratar de predecir el riesgo individual, sin transmitir a los jueces y magistrados cuán raras son realmente estas instancias de detención o no comparecer ante el tribunal.

Como afirman David Robinson y Logan Koepke, para la mayoría de las herramientas, "el mayoria de las personas que están etiquetadas como pertenecientes al grupo de mayor riesgo no serán arrestadas nuevamente si son liberadas antes del juicio", Lo que significa que el etiquetado de" alto riesgo "es muy engañoso y se centra en las posibilidades relativamente bajas de" fracaso "en lugar de la posibilidad más probable de éxito previo al juicio.3David G. Robinson y Logan Koepke: Derechos civiles y evaluaciones de riesgo preventivo, Upturn Inc.

Es esencial, por lo tanto, comprender los factores de entrada que se utilizan para predecir el riesgo, factores que pueden privar a alguien de la libertad previa al juicio, y las formas en que estos factores están empapados en el sesgo de raza y clase.

"Cualquier sistema que se base en datos de justicia penal debe lidiar con los vestigios de la esclavitud, la segregación de jure y de facto, la discriminación racial, la vigilancia parcial y el sesgo explícito e implícito, que son parte integrante del sistema de justicia penal. De lo contrario, estas herramientas automatizadas simplemente exacerbarán, reproducirán y calcificarán los sesgos que deben corregir."

-Vincent Southerland, "Con la inteligencia artificial y la justicia penal, el diablo está en los datos"4Vincent Southerland: Con AI y Justicia Criminal, The Devil está en los datos, ACLU

Lea nuestras subsecciones para explorar más sobre el impacto del uso de algoritmos cargados de sesgos en nuestro Impactos de las evaluaciones de riesgo sesgadas sección y una exploración de cómo se define y calcula el riesgo en Riesgo e imparcialidad.

Examine el sesgo en factores de evaluación de riesgo comunes en el Sesgo del sistema legal penal sección y Sesgo demográfico .