Resumen de Auditing Artificial Intelligence as a New Layer of Mediation: Introduction of a new black box to address another black box
- español
El discurso de la auditoría de la inteligencia artificial (IA) está surgiendo como un campo de la ética aplicada a la IA para abordar los problemas de imparcialidad, parcialidad y responsabilidad de los sistemas de IA. El mandato de auditar la IA asume y propone la figura experta de un auditor para abordar la problemática de la caja negra de la IA. Contrariamente a esto, el texto argumenta que la figura de un auditor experto instala otra capa de mediación. Esta capa de mediación introduce otra caja negra -el auditor, las prácticas de auditoría y el escepticismo profesional- para abordar la problemática de la caja negra existente. El texto sostiene que es importante cuestionar radicalmente la necesidad o la eficacia de la figura de un auditor experto en IA en quien todos los usuarios de un sistema de IA delegan su representación. La introducción de culturas de auditoría en el ecosistema de la IA corre el riesgo de excluir futuros debates sobre la IA y su relación con los seres humanos y otros no humanos, y de reducir de nuevo el problema a una cuestión técnica.
- English
The discourse of auditing artificial intelligence (AI) is emerging as a field of applied AI ethics to address the problems of fairness, bias, and accountability of AI systems. The injunction of auditing AI assumes and proposes an expert figure of an auditor to address the black box problematic of AI. Contrary to this, the text argues that the figure of an expert auditor installs another layer of mediation. This layer of mediation introduces another black box –the auditor, auditing practices and professional scepticism- to address the existing black box problematic. The text argues that it is important to radically interrogate the need or the efficacy of the figure of an expert AI auditor to whom all users of an AI system delegate their representation. The introduction of audit cultures in the AI ecosystem risks foreclosing future debates on AI and its relationship with humans and other non-humans and risks reducing the problem again to a technical one.
