El empleo opaco de IA o algoritmos por los poderes públicos es contrario al Estado de Derecho

• Boix Palop, Andrés ^[1]
  1. [1] Universitat de València

     Universitat de València

     Valencia, España

     
• Localización: Eunomía: Revista en Cultura de la Legalidad, ISSN-e 2253-6655, Nº. 30, 2026, págs. 389-408
• Idioma: español
• Títulos paralelos:
  • Opaque use of AI or algorithms by public authorities violates the rule of Law
• Enlaces
  • Texto completo
• Resumen
  • español

    Este artículo analiza la necesidad de someter los algoritmos y sistemas de Inteligencia Artificial (IA) empleados por las Administraciones públicas a los mismos estándares de transparencia que las normas reglamentarias, dado que cumplen materialmente la misma función al predeterminar las decisiones. Partiendo de la histórica Sentencia del Tribunal Supremo de 11 de septiembre de 2025 sobre el caso BOSCO, se examina cómo esta resolución desmonta las excusas tradicionales de opacidad institucional basadas en la protección de la propiedad intelectual y la seguridad nacional. El trabajo sostiene que el acceso íntegro al código fuente siempre que ello sea posible es una exigencia insoslayable del Estado de Derecho para combatir el inaceptable efecto de "caja negra". Asimismo, se evalúan las insuficiencias del marco normativo actual, incluyendo el Reglamento Europeo de IA (RIA), concluyendo que el único camino viable para garantizar los derechos ciudadanos es consolidar un debido proceso tecnológico fundamentado en la transparencia algorítmica más profunda y completa que sea posible.

  • English

    This article analyses the need to subject algorithms and Artificial Intelligence (AI) systems used by public administrations to the same transparency standards as regulatory norms, since they materially fulfil the same function by predetermining decisions. Based on the landmark Supreme Court ruling of September 11, 2025, regarding the BOSCO case, the paper examines how this resolution dismantles traditional excuses for institutional opacity based on the protection of intellectual property and national security. It is argued that full access to the source code is an unavoidable requirement of the Rule of Law to combat the unacceptable "black box" effect. Furthermore, the inadequacies of the current regulatory framework, including the European AI Act (RIA), are evaluated, concluding that the only viable path to guarantee citizens' rights is to consolidate technological due process grounded in full algorithmic transparency.