Retos y regulación de la inteligencia artificial: la toma de decisiones en los asuntos públicos y la Administración de Justicia

• Alessandro Mantelero ^[1]
  1. [1] Universidad Politécnica de Turín
• Localización: El Derecho Administrativo en la era de la inteligencia artificial: Actas del XVIII Congreso de la Asociación Española de Profesores de Derecho Administrativo. Vigo 25 a 27 de enero de 2024 / coord. por Patricia Valcárcel Fernández, Francisco Lorenzo Hernández González, 2025, ISBN 978-84-7351-805-5, págs. 609-628
• Idioma: español
• Enlaces
  • Texto Completo Libro (pdf)
• Resumen
  • español

    La inteligencia artificial (IA) ya forma parte de nuestra vidacotidiana y se utiliza cada vez más para dar forma a nuestra sociedad digitalimpulsada por los datos. Sin embargo, aún tiene algunas limitaciones, quepueden afectar negativamente a las personas y a la sociedad. En este sentido,las leyes que pretenden regular la IA deben abordar tres retos principales: lossesgos, la falta de transparencia y la naturaleza propietaria de las solucionesde IA.Para abordar estas cuestiones cada vez más decisivas y sus repercusiones enlos derechos y las libertades fundamentales, se han propuesto varias iniciativas.Una contribución eficaz al debate en este ámbito puede resultar de solucionescentradas en la integración de los derechos humanos y sus principios en eldiseño de la IA.Desde esta perspectiva, este capítulo se centra en dos ámbitos fundamentalesde aplicación de la IA: la toma de decisiones en asuntos públicos y la justiciadigital. En estos ámbitos, se examinarán los principios rectores y los límitesque debe respetar el uso de la IA para no vulnerar los derechos fundamentales.En este análisis también se destaca el papel de la nueva normativa europeasobre la inteligencia artificial, centrada en los riesgos y con especial énfasis enel impacto sobre los derechos fundamentales.

  • English

    Artificial intelligence (AI) is already part of our daily lives andis increasingly being used to shape our data-driven digital society. However,it still has some limitations, which can negatively affect people and society. Inthis sense, laws that seek to regulate AI must address three main challenges:bias, lack of transparency and the proprietary nature of AI solutions.To address these increasingly critical issues and their impact on fundamentalrights and freedoms, several initiatives have been proposed. An effective contribution to the debate in this area can result from solutions focused on theintegration of human rights and their principles in the design of AI.From this perspective, this chapter focuses on two fundamental areas of application of AI: decision-making in public affairs and digital justice. In theseareas, the guiding principles and limits that the use of AI must respect in ordernot to violate fundamental rights will be examined.This analysis also highlights the role of the new European regulations onartificial intelligence, focused on risks and with special emphasis on the impacton fundamental rights.