Sobre fairness y machine learning: el algoritmo, ¿puede (y debe) ser justo?

• Autores: Nuria Belloso Martín
• Localización: Anales de la Cátedra Francisco Suárez, ISSN 0008-7750, Nº 57, 2023 (Ejemplar dedicado a: Inteligencia Artificial y Derecho), págs. 7-38
• Idioma: español
• Títulos paralelos:
  • On Fairness and Machine Learning: Can (and Should) the Algorithm Be Fair?
• Enlaces
  • Texto completo
• Resumen
  • español

    El uso cada vez más frecuente de la Inteligencia Artificial en el ámbito delDerecho, obliga a plantearse si las decisiones automatizadas pueden, y deben, ser justas. El algoritmo, en el Machine Learning, tiene la virtualidad de ir aprendiendo, lo que lo dota de un cierto grado de autonomía. Sesgos, discriminaciones y desigualdades que derivan de decisiones automatizadas, ponen al descubierto el mito del algoritmo justo. El criterio de justicia que se exige en la concepción analógica del Derecho también debe exigirse en la dimensión digital. En este trabajo, desde la dificultad inicial de una falta de consenso sobre qué sea la fairness, examino cómo incorporar la fairness al algoritmo. Ello exigirá un previo análisis de los fundamentos iusfilosóficos y de algunas de las teorías de la justicia (utilitaristas, contractualistas, comunitaristas, igualitaristas) a partir de las cuales se puedan establecer parámetros, correctores y garantías para la consecución de la imprescindible correlación entre la fairness artificial y la fairness legal.

  • English

    The increasingly frequent use of Artificial Intelligence in the field of law, forces us to consider whether automated decisions can, and should, be fair. The algorithm, in Machine Learning, has the potential to learn, which gives it a certain degree of autonomy. Biases, discriminations and inequalities that derive from automated decisions show the myth of the fair algorithm. The standard of justice that is required in the analogical conception of Law must also be required in the digital dimension. In this paper, from the initial difficulty of a lack of agreement on what fairness is, I examine how to incorporate fairness into the algorithm. This will require a previous analysis of the legal philosophical foundations and some of the theories of justice (utilitarians, contractualists, communitarians, egalitarians) from which parameters, correctors and guarantees can be established to achieve the essential correlation between artificial fairness and legal fairness.