Resumen de Explicabilidad (de la inteligencia artificial)

Lucía Ortiz de Zárate Alcarazo

• español

  de digitalización en la Unión Europea (UE). A pesar de sus grandes beneficios este grupo de tecnologías emergentes también presenta importantes riesgos y desafíos éticos que deben abordarse. Por ello, la UE ha propuesto cuatro principios éticos fundamentales para la IA: la justicia, el respeto por la autonomía humana, la previsión del daño y la explicabilidad. El concepto central de este trabajo es la explicabilidad de la IA (XAI). De este modo, además de poner en contexto la importancia de este principio ético, se abordarán los aspectos centrales en torno al mismo: qué es la explicabilidad; por qué son importantes las explicaciones (en el ámbito de la IA); cuándo es necesario dar explicaciones y de qué tipo de explicaciones disponemos para hacer comprender a la ciudadanía las decisiones tomadas por sistema de IA.

• English

  Artificial Intelligence (AI) has become one of the central axes of digitization strategies in the European Union (EU). Despite its great benefits, this group of emerging technologies also presents significant ethical risks and challenges that must be addressed. For this reason, the EU has proposed four fundamental ethical principles for AI: fairness, respect for human autonomy, prevention of harm, and explicability. The central concept of the paper is the explicability of AI (XAI). Besides contextualizing the relevance of XAI, this work aims to tackle some of the central aspects around it. Therefore, it will address what explicability is, why explanations are important (in the field of AI), when it is necessary to give explanations, and the different forms of explanations available to make citizens understand the decisions made by AI systems.