Neutros e objetivos? Uma análise do uso de algoritmos em processos de tomadas de decisão a partir das epistemologias feministas

• Pereira de Jesus , Maria Vitoria ^[1] ; Saliba de Paula, Bruno Lucas ^[2]
  1. [1] Universidade Estadual de Montes Claros

     Universidade Estadual de Montes Claros

     Brasil

     
  2. [2] Departamento de Ciências Humanas e Sociais Aplicadas ao Direito/Universidade do Estado de Minas Gerais (UEMG). Programa de Pós-Graduação em Sociologia da Universidade de Brasília (PPGSOL/UNB)
• Localización: Redes: Revista de estudios sociales de la ciencia y la tecnología, ISSN-e 1851-7072, ISSN 0328-3186, Vol. 29, Nº. 56, 2023 (Ejemplar dedicado a: Redes N°56)
• Idioma: portugués
• Enlaces
  • Texto completo
• Resumen

  • O objetivo deste trabalho é analisar as controvérsias em torno da neutralidade e da objetividade dos algoritmos utilizados em processos de tomadas de decisão. Apoiamo-nos nos Estudos Sociais da Ciência e Tecnologia, bem como nos insights provenientes das epistemologias feministas, a fim de problematizar a presença de valores e interesses em inovações sociotécnicas relacionadas às tecnologias de informação e comunicação. Demonstramos, assim, que, em contextos de disparidades estruturais e de subrepresentação de minorias em áreas de tecnologia e inovação, análises e decisões automatizadas através de sistemas de inteligência artificial tendem a reproduzir desigualdades em termos de gênero, raça e classe. Do ponto de vista metodológico, valemo-nos das técnicas de análise de conteúdo a fim de investigarmos relatórios, legislações e matérias jornalísticas pertinentes ao tema. Nossos argumentos apontam para a necessidade de levar em consideração a situacionalidade dos sujeitos envolvidos com a programação de sistemas automatizados de tomadas de decisão, o que tensionaria critérios tradicionais de neutralidade e objetividade, tal como defendido pela noção de “objetividade forte”, definida por Sandra Harding. Dessa forma seria possível levar em consideração os valores e interesses que perpassam as práticas de inovação, de modo a reconhecer, e talvez mitigar, os vieses políticos e socioculturais, bem como os efeitos discriminatórios, que caracterizam as decisões com base em algoritmos.