Is the EU human rights legal framework able to cope with discriminatory AI?

• Pablo Martínez Ramil ^[1]
  1. [1] Palacký University, Olomouc

     Palacký University, Olomouc

     Chequia

     
• Localización: IDP: revista de Internet, derecho y política = revista d'Internet, dret i política, ISSN-e 1699-8154, Nº. Extra 34, 2021
• Idioma: inglés
• Títulos paralelos:
  • ¿Es el marco legal de derechos humanos de la UE capaz de hacer frente a la IA discriminatoria?
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    Los desafíos introducidos por IA para el marco legal de la UE contra la discriminación han sido un tema ampliamente discutido entre la doctrina. A la luz del vigésimo aniversario de la Carta de los Derechos Fundamentales de la UE, la Comisión publicó una propuesta reglamentaria para abordar la IA. Este documento busca determinar si la propuesta aborda con éxito los escollos existentes del marco de la UE. En primer lugar, este documento explora el funcionamiento de los sistemas de inteligencia artificial que emplean técnicas de aprendizaje automático y determina cómo se produce la discriminación. En segundo lugar, el artículo examina los derechos de propiedad intelectual como una de las principales barreras para la rendición de cuentas y la reparación de las violaciones cometidas por un sistema de inteligencia artificial. En tercer lugar, se aborda el estado del debate sobre los escollos del actual enfoque de la UE hacia la no discriminación. La literatura académica disponible sugiere que los resultados discriminatorios producidos por una IA equivaldrán a discriminación indirecta en la mayoría de los escenarios. En este sentido, los casos de discriminación indirecta por proxy probablemente pasarán la prueba de proporcionalidad, lo que justificará el resultado discriminatorio. La última sección de este artículo estudia la propuesta reguladora de la Comisión. Aunque el documento parece abordar de manera efectiva la discriminación causada por conjuntos de datos de capacitación sesgados, este documento concluye que los derechos de propiedad intelectual y la discriminación por poder aún constituyen barreras significativas para la aplicación de la ley contra la discriminación.

  • English

    The challenges introduced by AI for the EU anti-discrimination legal framework have been a widely dis-cussed topic among the doctrine. In the light of the 20th anniversary of the EU Charter of Fundamental Rights, the Commission released a regulatory proposal to tackle AI. This paper seeks to determine whether the proposal successfully addresses the existent pitfalls of the EU framework. First, this paper explores the functioning of AI systems that employ machine learning techniques and determines how discrimination takes place. Second, the article examines intellectual property rights as one of the main barriers for accountability and redressal of violations committed by an AI system. Third, the state of the discussion concerning the pitfalls of the existent EU approach towards non-discrimination is addressed. The available academic literature suggests that discriminatory outputs produced by an AI will amount to indirect discrimination in most scenarios. In this sense, cases of indirect proxy discrim-ination will likely pass the proportionality test, therefore justifying the discriminatory output. The last section of this article studies the Commission’s regulatory proposal. Although the document seems to effectively tackle discrimination caused by biased training data sets, this paper concludes that intellec-tual property rights and proxy discrimination still constitute significant barriers for the enforcement of anti-discrimination law.