Understanding bas at multiple levels in computer vision algorithms with a focus on Face Recognition

• Autores: José Ignacio de la Serna Cabello
• Directores de la Tesis: Javier Ortega García (dir. tes.), Aythami Morales Moreno (dir. tes.)
• Lectura: En la Universidad Autónoma de Madrid ( España ) en 2024
• Idioma: inglés
• Número de páginas: 143
• Títulos paralelos:
  • Comprendiendo el sesgo a Mmúltiples niveles en algoritmos de visión artificial con aplicación al Reconocimiento Facial
• Tribunal Calificador de la Tesis: Jose Francisco Velez Serrano (presid.), Ruben Vera Rodriguez (secret.), Philipp Terhorst (voc.)
• Programa de doctorado: Programa de Doctorado en Ingeniería Informática y de Telecomunicación por la Universidad Autónoma de Madrid
• Materias:
  • Matemáticas
    • Ciencia de los ordenadores
      • Inteligencia artificial
  • Ciencias de la vida
    • Biometría
• Enlaces
  • Tesis en acceso abierto en: Biblos-e Archivo
• Resumen

  • La tesis examina los sesgos en los procesos de aprendizaje asociados a las arquitecturas de redes neuronales profundas y sus implicaciones en los algoritmos de reconocimiento facial. La tesis comienza destacando la desigual representación de la información demográfica en las bases de datos de reconocimiento facial más utilizadas. Posteriormente, enfatiza la necesidad de una comprensión más profunda del espacio de características generado por los modelos profundos y su rendimiento en diferentes grupos demográficos.

    Presentamos un análisis de cómo los datos sesgados afectan a los procesos de aprendizaje de arquitecturas de redes neuronales profundas en términos de nivel de activación. Exploramos cómo los atributos étnicos afectan al proceso de aprendizaje de los clasificadores de género, revelando que los sesgos están fuertemente codificados en las últimas capas de los modelos. Además, introducimos un marco general de formulación para la discriminación algorítmica con aplicación específica a la biometría facial.

    En este sentido, la detección de sesgos es un reto importante para garantizar la confianza en el aprendizaje automático y sus aplicaciones. La tesis presenta dos métodos novedosos, InsideBias e IFBiD (Inference-Free Bias Detection), para detectar sesgos en las redes neuronales: InsideBias se basa en la respuesta de los modelos a la información de entrada, más que en su rendimiento. IFBiD constituye un marco sólido para auditar el sesgo dentro de los modelos mediante un análisis de sus parámetros. Este trabajo es el primero en explorar una forma automática de detectar sesgos en redes neuronales convolucionales profundas simplemente observando sus pesos. Nuestros resultados experimentales aportan pruebas convincentes de la existencia de patrones identificables asociados al sesgo en los pesos de las redes neuronales.

    Tras el exhaustivo análisis de sesgos, introducimos un nuevo método de entrenamiento, que llamamos Sensitive Loss, que tiene en cuenta la discriminación, para mejorar tanto el rendimiento como la imparcialidad de algoritmos de reconocimiento facial sesgados.

    Por último, la tesis presenta un innovador método no supervisado para evaluar el rendimiento y el sesgo de la tecnología de reconocimiento facial (FRT). La dependencia de conjuntos de datos públicos potencialmente incluidos en los conjuntos de entrenamiento de los proveedores de FRT plantea problemas de fiabilidad en la evaluación de los sistemas comerciales. Para resolver este problema, proponemos un enfoque novedoso que construye nuevos conjuntos de datos para cada evaluación, etiquetando automáticamente imágenes faciales de fuentes públicas.