Breves notas sobre os vieses de uma inteligência artificial (IA): a busca por uma IA não discriminatória

• Diego Fontenele Lemos ^[1]
  1. [1] Universidad de la Empresa

     Universidad de la Empresa

     Uruguay

     
• Localización: Direitos fundamentais na perspectiva ítalo-brasileira. Vol. II / Fábio da Silva Veiga (dir.), Filippo Viglione (dir.), Vincenzo Durante (dir.), 2021, ISBN 9789895486984, págs. 167-182
• Idioma: portugués
• Títulos paralelos:
  • Brief notes on the biases of an artifcial intelligence (IA): the search for a non-discriminatory IA
• Enlaces
  • Texto Completo Libro
• Resumen
  • English

    New technologies and their respective relationships withlaw are in vogue today. With the entry into force of the new GeneralData Protection Act (LGPD) in 2020, there is a signifcant demand forimproved processing and availability of data in the country. It is notproposed at this time to launch a general law on artifcial intelligence,but care must be taken, especially with the way data are processedusing AI systems with regard to possible discrimination anddistortions performed by intelligent systems. Artifcial intelligence,in this way, is one of the most intriguing themes associated withtechnology today. In order to do so, it is frst necessary to defnesome concepts related to artifcial intelligence, and then analyze theprinciples that permeate this area of study, particularly within theOrganization for Economic Cooperation and Development (OECD).After analyzing the principles, we can discuss, without exhaustingthe subject, the biases of discrimination through artifcial intelligenceas well as the discriminatory systems that AI can use to generatethese distortions of outcome.

  • português

    As novas tecnologias e suas respectivas relações como direito estão em voga atualmente. Com a entrada em vigor danova Lei Geral de Proteção de Dados (LGPD) em 2020 há umasensível procura pela melhoria no tratamento e disponibilizaçãodos dados no país. Não se propõe, neste momento, o lançamentode uma lei geral sobre inteligência artifcial, mas é preciso cuidado,especialmente, com a forma como os dados são tratadosutilizando-se sistemas de IA no que tange a possível discriminaçãoe distorções realizadas pelos sistemas inteligentes. A inteligênciaartifcial, desta maneira, é um dos temas associados à tecnologiamais intrigantes atualmente. Para isso, num primeiro momentoé preciso defnir alguns conceitos relacionados à inteligênciaartifcial, para em seguida analisar os princípios que permeiamessa área de estudo, particularmente no âmbito da Organizaçãopara a Cooperação e Desenvolvimento Econômico (OCDE). Apósa análise dos princípios, pode-se discutir, sem esgotar o assunto,os vieses de discriminação por meio da inteligência artifcial bemcomo os sistemas discriminatórios que a IA pode se utilizar paragerar essas distorções de resultado.