Herramientas de evaluación de riesgos

Las herramientas de evaluación de riesgos (RAT, por sus siglas en inglés) son un tipo específico de algoritmo utilizado para determinar el "riesgo". Están destinadas a predecir si alguien en el sistema legal penal puede hacer algo como ser arrestado nuevamente (a veces llamado "reincidencia"), o no presentarse a la corte si es liberado (a veces llamado "no comparecer").

Las RAT se utilizan para ayudar a los jueces y magistrados a decidir todo, desde la libertad bajo fianza y la libertad preventiva o la supervisión hasta la sentencia y la gravedad de la libertad condicional o la supervisión de la libertad condicional.1ÉPICO: Algoritmos en el sistema de justicia penal

Las RAT se basan en datos agregados. Los diseñadores crean RAT analizando un conjunto de datos, que a menudo es una gran muestra de información histórica sobre un grupo de personas, y encuentran factores consistentes con los resultados que intentan predecir.

Esto significa que el resultado de una RAT intenta predecir qué podría hacer alguien con ciertas características, como de dónde es alguien, cuántas veces fueron arrestados o condenados, o cuántos años tienen. Son no individualizado Para cada persona.2Brandon Buskey y Andrea Woods: Dar sentido a las evaluaciones de riesgo previas al juicio, El campeón

Las RAT carecen de la capacidad de ver a las personas como individuos y comprender sus circunstancias personales.3Ellora Thadaney Israni: Cuando un algoritmo ayuda a enviarte a prisión, The New York Times

¿Qué es un algoritmo?

Un algoritmo es un conjunto de instrucciones paso a paso, como una receta. Los algoritmos toman datos como entradas, analizan los datos y luego crean una predicción del resultado.

Algunos algoritmos son fáciles de seguir, y los humanos pueden completar las fórmulas y los cálculos en papel para ver cuál sería el resultado previsto. Otros son mucho más complicados y confían en el "aprendizaje automático" para tomar caminos complejos a través de los datos que un humano no podría replicar, para predecir y aprender de los comentarios sobre sus predicciones para refinar sus resultados con el tiempo.4Vyacheslav Polonski: AI está condenando a criminales y determinando el tiempo en la cárcel, pero ¿es justo? Foro Económico Mundial

Que puede guiar cómo una computadora analiza patrones en la información5Ali Ingersoll: Cómo están sesgados los algoritmos que dirigen tu vida The Washington Post o pueden crear una fórmula para procesar información. A menudo se crean para responder ciertas preguntas o predecir resultados, en función de los puntos de datos que ingresan.

Somos rodeado de algoritmos todo el tiempo en nuestra vida cotidiana6Douglas H. Fisher: Algoritmos en la vida cotidiana, La Universidad de Vanderbilt

Recopilan información sobre todos nosotros, en función de lo que hacemos clic y de lo que compramos, para predecir qué tipo de anuncios mostrarnos en línea o qué tipo de programas nos gustaría ver.7Nicole Nguyen: Netflix quiere cambiar la forma en que te relajas, Noticias de Buzzfeed Google Maps usa un algoritmo para encontrar la mejor ruta8Michael Byrne: El algoritmo simple y elegante que hace posible Google Maps, Vicio para su viaje a casa, y Facebook usa algoritmos9Greg Swan: El nuevo algoritmo de Facebook | 5 consejos para dominarlo en 2019, Tinuiti para determinar qué publicaciones aparecen en la parte superior de tu feed de noticias.

Los algoritmos también ayudan a decidir la tasa de interés de sus préstamos, el impacto si lo contratan y cuántos policías patrullan su vecindario.10Ali Ingersoll: Cómo están sesgados los algoritmos que dirigen tu vida The Washington Post

Para una experiencia interactiva para aprender más sobre algoritmos, consulte Automatizando NYC.11Aki Younge, Deepra Yusuc, Elyse Voegeli y Jon Truong: ¿Automatizar NYC y (en) codificar la desigualdad?