Resumen de Gobernanza algorítmica, explicación por diseño y justicia por diseño
- español
A pesar de los innumerables beneficios, hay varias críticas y preocupaciones en relación con el uso de la Inteligencia Artificial (IA), especialmente en Brasil, donde no hay ninguna legislación federal en vigor hasta el momento. Las legislaciones estatales existentes y los proyectos de ley que se están votando en el Congreso, como el PL 21/20, son defectuosos e incompletos, especialmente en lo que respecta a algunas aplicaciones de la IA que implican altos riesgos para los derechos y libertades fundamentales, además de traer a menudo un sesgo potencial, duplicando o potenciando el racismo institucionalizado existente en la sociedad u otras formas de discriminación. Existe una inequidad codificada que propicia infraestructuras injustas, sinembargo, donde hay poder hay resistencia, y en este sentido es necesario señalar la importancia de las contra codificaciones basadas en la solidaridad y que repiensan la justicia, es decir, un enfoque emancipador de la tecnología. Este es el cambio paradigmático necesario, y siendo necesario, tiene que ser posible y debe buscarse con el máximo esfuerzo. Se trata de verdaderas formas de resistencia, como instrumentos abolicionistas para el “Nuevo Código Jim”, nuevas formas de discriminación de raza, género y clase existentes a través del uso de las nuevas tecnologías, en el sentido de prácticas de diseño orientadas a la justicia.
- English
Despite the countless benefits, there are several criticisms and concerns regarding the use of Artificial Intelligence (AI), especially in Brazil, where so far there is no federal legislation in force, the existing state legislations and the PL currently being voted in Congress, such as PL 21/20, are flawed and incomplete, especially regarding some applications of AI that involve high risks to fundamental rights and freedoms, besides often bringing a potential bias, duplicating or potentiating the existing institutionalized racism in society or other forms of discrimination. There is a codified inequity propitiating unjust infrastructures, however, where there is power there is resistance, and in this sense one has to point to the importance of counter-codifications based on solidarity and that rethink justice, that is, an emancipatory approach to technology. This is the necessary paradigmatic change, and being necessary, it has to be possible, and should be sought with the utmost effort. These are true forms of resistance, such as abolitionist instruments for the “New Jim Code”, new forms of race, gender and class discrimination existing through the use of new technologies, in the sense of justice-oriented design practices.
