A holistic perspective on designing and evaluating explainable AI models: from white-box additive models to post-hoc explanations for black-box models

• Autores: Ettore Mariotti
• Directores de la Tesis: José M. Alonso Moral (dir. tes.), Albert Gatt (dir. tes.)
• Lectura: En la Universidade de Santiago de Compostela ( España ) en 2024
• Idioma: inglés
• Programa de doctorado: Programa de Doctorado en Investigación en Tecnologías de la Información por la Universidad de A Coruña y la Universidad de Santiago de Compostela
• Enlaces
  • Tesis en acceso abierto en: MINERVA
• Resumen

  • A tese explora o problema da caixa negra na Intelixencia Artificial (IA) e a necesidade de sistemas de IA máis transparentes e explicables. A XAI busca abrir os sistemas de IA ao escrutinio, facendo o proceso de toma de decisións máis comprensible para os usuarios. Isto é crucial para construír confianza e asegurar unha implementación xusta e ética da IA en múltiples sectores. A tese formula a hipótese de que os modelos de IA transparentes (caixa branca) poden ser cruciais para explicar sistemas máis complexos e opacos. Os obxectivos inclúen: 1) Comprender a paisaxe da XAI, 2) Construír modelos interpretables por deseño, 3) Xerar explicacións post-hoc para modelos caixa negra, 4) Entender as implicacións para a industria.