Desafíos para el control externo derivados del uso de la inteligencia artificial en el sector público

• MARÍA DOLORES GENARO MOYA ^[2] ; ANTONIO MANUEL LÓPEZ HERNÁNDEZ ^[1]
  1. [1] Universidad de Granada

     Universidad de Granada

     Granada, España

     
  2. [2] Universidad de Granadav
• Localización: Revista española de control externo, ISSN 1575-1333, Nº Extra 74-75, 2023 (Ejemplar dedicado a: Inteligencia artificial. Gestión y control público), págs. 10-31
• Idioma: español
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    La aplicación de la inteligencia artificial (IA) está creciendo de forma exponencial en las entidades públicas, contribuyendo a la mejora del diseño y prestación de servicios, así como a la gestión y eficiencia interna de las instituciones. No obstante, el potencial de los sistemas de inteligencia artificial para el sector público también conlleva un conjunto de riesgos relacionados, entre otras áreas, con la privacidad, confidencialidad, seguridad, transparencia o sesgos y discriminación. Las Instituciones de Control Externo (ICEX) deben adaptar sus recursos humanos y tecnológicos a este nuevo escenario. En este trabajo se analizan las implicaciones de la penetración de la IA en el sector público, así como los retos que estos desarrollos tecnológicos plantean a las ICEX para mejorar la eficacia y eficiencia en las tareas de auditoría. Asimismo, se repasa el estado de la cuestión de las auditorías de aplicaciones basadas en algoritmos realizadas por determinadas ICEX

  • English

    The application of artificial intelligence (AI) is growing exponentially in public entities, contributing to the improvement of the design and provision of services, as well as to the internal management and efficiency of public institutions.

    However, the potential of AI systems for the public sector also entails a set of risks related, among other areas, to privacy, confidentiality, security, transparency or bias and discrimination. The External Control Institutions (ICEX) must adapt their human and technological resources to this new scenario. This paper analyses the implications of AI penetration in the public sector, as well as the challenges that these technological developments pose to ICEX to improve effectiveness and efficiency in auditing tasks. It also reviews the status of the audits of systems based on algorithms carried out by some ICEX