Las evaluaciones de impacto algorítmico: Una visión más allá de la ética

• Flórez Rojas, María Lorena ^[1]
  1. [1] Groningen University
• Localización: GIGAPP: Estudios Working Papers, ISSN-e 2174-9515, Vol. 10, Nº. Extra 267-272, 2023 (Ejemplar dedicado a: Número Especial Gobernanza de datos e inteligencia artificial), págs. 335-350
• Idioma: español
• Títulos paralelos:
  • Avaliações de impacto algorítmico: uma visão além da ética
  • Algorithmic impact assessments: A view beyond ethics
• Enlaces
  • Texto completo
• Resumen
  • español

    Los sistemas que utilizan la inteligencia artificial (IA) serán la norma del futuro. Sin embargo, la intervención humana es crucial a la hora de considerar las cuestiones éticas y legales basadas en los juicios de estos sistemas. La preocupación es sobre cómo usar, desarrollar e investigar la IA con un enfoque social a través de los análisis de impacto algorítmico (AIA). Esta metodología contribuye a una evaluación de los posibles riesgos asociados de la IA. Todas las organizaciones pueden aprovechar esta metodología para aumentar la confianza en las aplicaciones de IA. A pesar del esfuerzo por integrar estas estrategias de autorregulación, en algunas industrias, los principios éticos se quedan cortos en su aplicación. El documento analiza la metodología de AIA y del beneficio social a partir del análisis de un toolkit ético legal que se testeó para hacer un llamado a los reguladores a concretar reglas y estándares sobre las implicaciones de esta tecnología.

  • English

    Systems using artificial intelligence (AI) will be the norm of the future. However, human intervention is crucial when considering the ethical and legal issues based on the judgments of these systems. The concern is about how to use, develop and research AI with a social focus through algorithmic impact analysis (AIA). This methodology contributes to an assessment of the potential risks associated with AI. All organizations can take advantage of this methodology to increase confidence in AI applications. Despite the effort to integrate these self-regulatory strategies, in some industries, ethical principles fall short in their application. The document analyzes the AIA methodology and the social benefit based on the analysis of a legal ethical toolkit that was tested to call on regulators to specify rules and standards on the implications of this technology.

  • português

    Os sistemas que usam inteligência artificial (IA) serão a norma do futuro. No entanto, a intervenção humana é crucial ao considerar as questões éticas e legais com base nos julgamentos desses sistemas. A preocupação é como usar, desenvolver e pesquisar IA com foco social por meio da análise algorítmica de impacto (AIA). Esta metodologia contribui para uma avaliação dos riscos potenciais associados à IA. Todas as organizações podem aproveitar essa metodologia para aumentar a confiança nos aplicativos de IA. Apesar do esforço para integrar essas estratégias de autorregulação, em algumas indústrias, os princípios éticos ficam aquém de sua aplicação. O documento analisa a metodologia AIA e o benefício social com base na análise de um kit de ferramentas éticas legais que foi testado para convocar os reguladores a especificar regras e padrões sobre as implicações dessa tecnologia.