Herramientas de evaluación de riesgos
Las herramientas de evaluación de riesgos (RAT, por sus siglas en inglés) son un tipo específico de algoritmo utilizado para determinar el "riesgo". Están destinadas a predecir si alguien en el sistema legal penal puede hacer algo como ser arrestado nuevamente (a veces llamado "reincidencia"), o no presentarse a la corte si es liberado (a veces llamado "no comparecer").
Las RAT se utilizan para ayudar a los jueces y magistrados a decidir todo, desde la libertad bajo fianza y la libertad preventiva o la supervisión hasta la sentencia y la gravedad de la libertad condicional o la supervisión de la libertad condicional.1ÉPICO: Algoritmos en el sistema de justicia penal
Las RAT se basan en datos agregados. Los diseñadores crean RAT analizando un conjunto de datos, que a menudo es una gran muestra de información histórica sobre un grupo de personas, y encuentran factores consistentes con los resultados que intentan predecir.
Esto significa que el resultado de una RAT intenta predecir lo que podría hacer alguien con ciertas características, como de dónde es alguien, cuántas veces fue arrestado o condenado, o qué edad tiene. Son no individualizado Para cada persona.2Brandon Buskey y Andrea Woods: Dar sentido a las evaluaciones de riesgo previas al juicio, El campeón
Las RAT carecen de la capacidad de ver a las personas como individuos y comprender sus circunstancias personales.3Ellora Thadaney israelí: Cuando un algoritmo ayuda a enviarte a prisión, The New York Times
¿Qué es un algoritmo?
Un algoritmo es un conjunto de instrucciones paso a paso, como una receta. Los algoritmos toman datos como entradas, analizan los datos y luego crean una predicción del resultado.
Algunos algoritmos son fáciles de seguir y los humanos pueden completar las fórmulas y los cálculos en papel para ver cuál sería el resultado previsto. Otros son mucho más complicados y se basan en el "aprendizaje automático" para tomar caminos complejos a través de datos que un humano no podría replicar, con el fin de predecir y aprender de los comentarios sobre sus predicciones para refinar sus resultados a lo largo del tiempo.4Viacheslav Polonski: AI está condenando a criminales y determinando el tiempo en la cárcel, pero ¿es justo? Foro Económico Mundial
Que puede guiar cómo una computadora analiza patrones en la información5Ali Ingersoll: Cómo están sesgados los algoritmos que dirigen tu vida The Washington Post o pueden crear una fórmula para procesar información. A menudo se crean para responder ciertas preguntas o predecir resultados, en función de los puntos de datos que ingresan.
Somos rodeado de algoritmos todo el tiempo en nuestra vida cotidiana6Douglas H. Fisher: Algoritmos en la vida cotidiana, La Universidad de Vanderbilt
Recopilan información sobre todos nosotros, en función de lo que hacemos clic y de lo que compramos, para predecir qué tipo de anuncios mostrarnos en línea o qué tipo de programas nos gustaría ver.7Nicole Nguyen: Netflix quiere cambiar la forma en que te relajas, Noticias de Buzzfeed Google Maps usa un algoritmo para encontrar la mejor ruta8Michael Byrne: El algoritmo simple y elegante que hace posible Google Maps, Vicio para su viaje a casa, y Facebook usa algoritmos9Greg Cisne: El nuevo algoritmo de Facebook | 5 consejos para dominarlo en 2019, Tinuiti para determinar qué publicaciones aparecen en la parte superior de tu feed de noticias.
Los algoritmos también ayudan a decidir la tasa de interés de sus préstamos, el impacto si lo contratan y cuántos policías patrullan su vecindario.10Ali Ingersoll: Cómo están sesgados los algoritmos que dirigen tu vida The Washington Post
Para una experiencia interactiva para aprender más sobre algoritmos, consulte Automatizando NYC.11Aki Younge, Deepra Yusuc, Elyse Voegeli y Jon Truong: ¿Automatizar NYC y (en) codificar la desigualdad?
