Desafíos éticos en la aplicación de la inteligencia artificial a los sistemas de defensa

• Autores: Juan Antonio Moliner González
• Localización: Revista Diecisiete: Investigación Interdisciplinar para los Objetivos de Desarrollo Sostenible., ISSN-e 2695-4427, Nº. 4, 2021, págs. 111-126
• Idioma: español
• Títulos paralelos:
  • Ethical challenges on artificial intelligenge applied to defense systems
• Enlaces
  • Texto completo
• Dialnet Métricas: 1 Cita
• Resumen
  • español

    La Inteligencia Artificial se vislumbra actualmente como el más disruptivo de los avances tecnológicos de la Revolución Digital en curso. En la intensa competición por obtener la supremacía en el tablero geoestratégico internacional y, entre muchas otras consideraciones, la ética está comenzando a desempeñar un papel cada vez más relevante.

    En el ámbito de la Defensa, el patrón siempre ha sido, y lo sigue siendo, la incorporación de nuevos desarrollos científicos y tecnológicos en las capacidades militares, tratando de mantener la superioridad sobre rivales y competidores. Algunos de esos progresos, como los Sistemas de Armas Letales Autónomos y otras capacidades militares, que utilizan la Inteligencia Artificial como guía directora, presentan problemas éticos que deben ser considerados no solo por los Estados y sus Fuerzas Armadas, sino también por todos aquellos implicados en su investigación y desarrollo, como los ingenieros y fabricantes.

    Entre esos problemas el que se considera en este trabajo como más relevante es el del «control humano significativo», exigido para evitar que la guerra abandone su naturaleza de fenómeno humano y social bajo control del ser humano y se transforme en un juego dirigido por máquinas y su Inteligencia Artificial.

  • English

    Artificial Intelligence is currently foreseen as the most disruptive technological advance of the ongoing Digital Revolution. There is a strong competition for gaining supremacy in the international geostrategic landscape and, among many other elements, ethical considerations are starting to strongly show up.

    In the Defense field, the pattern is and has always been to incorporate new tecnological and scientific developments to military capabilities, aiming to gain an advantage over rivals and competitors. Some of these breakthroughts, such as Lethal Autonomous Weapons Systems and other military capabilities using Artificial Intelligence as their central driver, present ethical concerns which must be considered not only by States and their Armed Forces, but also by those involved in their development like engineers and manufacturers.

    Among these concerns the one considered most relevant in this work is the «meaningful human control», demanded to prevent warfare from abandoning its nature of human and social phenomenon under human control and becoming a machine and artificial intelligence driven game.