La irrupción de la inteligencia artificial en la decisión pública

• Cruells, Marta ; Subirats, Joan ^[1] ; Blasco, Jaume ^[1]
  1. [1] Universitat Autònoma de Barcelona

     Universitat Autònoma de Barcelona

     Barcelona, España

     
• Localización: Revista española de ciencia política, ISSN 1575-6548, Nº 71, 2026, págs. 13-36
• Idioma: español
• Títulos paralelos:
  • The Emergence of Artificial Intelligence in Public Decision-Making
• Enlaces
  • Texto completo
• Resumen
  • español

    Este artículo analiza las tensiones que genera la irrupción de la inteligencia artificial (IA) en la decisión pública, con el objetivo de contribuir al debate sobre su gobernanza en instituciones democráticas. Se desarrolla un ensayo crítico basado en una revisión selectiva de la literatura sobre gobernanza algorítmica, relación entre conocimiento científico y decisión política y sus vínculos con la legitimidad administrativa. A partir de esta revisión, se propone un marco analítico para interpretar los efectos institucionales de la IA. El análisis identifica dos frentes de tensión que se acumulan y refuerzan entre sí. En primer lugar, la IA no resuelve la relación entre evidencia y decisión política, sino que la desplaza, introduciendo nuevas formas de opacidad, sesgo y concentración del conocimiento. En segundo lugar, cuando los sistemas algorítmicos operan como decisores de facto, los mecanismos clásicos de legitimidad administrativa propios de la democracia resultan insuficientes, al haber sido diseñados para supervisar razonamientos humanos. Se desplaza la discrecionalidad hacia el diseño de los sistemas y se constata la incapacidad correctora del humano en el bucle, que depende de condiciones organizativas y jurídicas que no se dan hoy día. El artículo concluye que la irrupción de la IA plantea problemas que no pueden abordarse únicamente mediante ajustes técnicos o garantías formales. Su gobernanza requiere intervenir en las decisiones de diseño, especificar las condiciones institucionales de la supervisión humana, e incorporar un dialogo con la gobernanza del conocimiento que estos sistemas producen, ya que ambas dimensiones se encuentran crecientemente interrelacionadas.

  • English

    This article analyses the tensions generated by the irruption of artificial intelligence (AI) in public decision-making, with the aim of contributing to the debate on its governance in demo-cratic institutions. It develops a critical essay based on a selective review of the literature on algorithmic governance, the relationship between scientific knowledge and political deci-sion-making, and their links with administrative legitimacy. Drawing on this review, an analytical framework is proposed to interpret the institutional effects of AI. The analysis iden-tifies two fronts of tension that accumulate and reinforce each other. First, AI does not resolve the relationship between evidence and political decision-making, but rather displaces it, intro-ducing new forms of opacity, bias and concentration of knowledge. Second, when algorithmic systems operate as de facto decision-makers, the classical mechanisms of administrative legiti-macy characteristic of democracy prove insufficient, having been designed to oversee human reasoning. Discretion is displaced towards system design, and the corrective capacity of the human in the loop proves inadequate, as it depends on organisational and legal conditions that are not currently in place. The article concludes that the irruption of AI raises problems that cannot be addressed solely through technical adjustments or formal guarantees. Its governance requires intervening in design decisions, specifying the institutional conditions for human oversight, and incorporating a dialogue with the governance of the knowledge that these systems produce, as both dimensions are increasingly interrelated.