Engañando a las redes neuronales profundas

• Bueno-Crespo, Andrés ^[1] ; Rodríguez-Bermúdez, Germán ^[2] ; Pereñiguez-García, Fernando ^[1]
  1. [1] Universidad Católica San Antonio

     Universidad Católica San Antonio

     Murcia, España

     
  2. [2] Centro Universitario de la Defensa
• Localización: IV Congreso Nacional de i+d en Defensa y Seguridad DESEi+d 2016: Actas, 16, 17 y 18 de noviembre de 2016 / José Serna Serrano (dir. congr.), María del Pilar Sánchez Andrada (dir. congr.), Ignacio Álvarez Rodríguez (dir. congr.), 2016, ISBN 978-84-946021-3-9, págs. 405-412
• Idioma: español
• Enlaces
  • Texto Completo Libro (pdf)
• Resumen

  • El reconocimiento de patrones es un campo ampliamente estudiado dentro de la inteligencia artificial. Actualmente, las llamadas redes neuronales profundas permiten clasificar patrones mediante un aprendizaje similar al que realiza el ser humano. Aunque asocian un etiquetado del objeto a clasificar con una imagen del mismo, no son capaces de comprender realmente la información que se está tratando. Tal y como han revelado diversas investigaciones, esta característica es una vulnerabilidad que podría utilizarse para confundir el aprendizaje del sistema por medio de mensajes contradictorios. En ciertas áreas de aplicación como son, por ejemplo, los entornos en defensa, se hace necesario proveer a estos algoritmos de mecanismos que aseguren la fiabilidad de la información tratada. Este artículo presenta esta problemática y analiza las técnicas emergentes de investigación que persiguen solventar este problema por medio del diseño de sistemas de aprendizaje más robustos