Resumen de Justicia algorítmica: Un enfoque sociotécnico

Andrea Bravo Bolado

• español

  Los instrumentos de predicción del riesgo de reincidencia basados en IA generan numerosos retos para los pilares del Derecho penal. Es urgente una introspección en una disciplina incipiente, el “algorithmic fairness”, cuyo objetivo es construir herramientas éticas, adaptadas al concepto de “justicia”. Se pretende arrojar claridad metodológica en un campo donde convergen disciplinas dispares (ciencia de datos, matemáticas y derecho), intentando dar respuesta a los siguientes interrogantes: ¿es posible trasladar al lenguaje matemático conceptos como “equidad” o “no discriminación”?; ¿hay varios conceptos de lo “justo”? ¿son compatibles? ¿qué resultados arrojan?;

  ¿es posible tender un puente entre ambos lenguajes que brinde resultados objetivamente más justos?;

  ¿de qué manera el desarrollo de derechos como la igualdad y la no discriminación deben afectar en la programación? Dicho examen nos permitirá dotar de la necesaria protección a colectivos que sufren el riesgo de ser cada vez más marginalizados por el sistema

• English

  AI-based tools for predicting the risk of recidivism raise numerous challenges for the grounds of criminal law. There is an urgent need for introspection in an emerging discipline, "algorithmic fairness", which aims to build ethical tools, adapted to the concept of "justice". The aim is to provide methodological clarity in a field where disparate disciplines (data science, mathematics and law) converge, trying to answer the following questions: is it possible to translate concepts such as "fairness" or "non-discrimination" into mathematical language?; are there various concepts of "fairness"?; are they compatible?; what results do they yield?; is it possible to bridge the gap between the two languages to provide objectively fairer results?; how should the development of rights such as equality and non-discrimination affect programming? Such an examination will allow us to provide the necessary protection to groups that are at risk of being increasingly marginalised by the system