La inteligencia artificial del sector público: desarrollo y regulación de la actuación administrativa inteligente en la cuarta revolución industrial

• Oscar Capdeferro Villagrasa ^[1]
  1. [1] Universitat de Barcelona

     Universitat de Barcelona

     Barcelona, España

     
• Localización: IDP: revista de Internet, derecho y política = revista d'Internet, dret i política, ISSN-e 1699-8154, Nº. 30, 2020
• Idioma: español
• Títulos paralelos:
  • Artificial intelligence in the public sector: development and regulation of intelligent administrative action in the fourth industrial revolution
  • La intel·ligència artificial del sector públic: desenvolupament i regulació de l’actuació administrativa intel·ligent en la quarta revolució industrial
• Enlaces
  • Texto completo (pdf)
• Dialnet Métricas: 13 Citas
• Resumen
  • español

    El desarrollo de la inteligencia artificial es prometedor y cada vez son más las aplicaciones y programas que, basándose en ella, ofrecen soluciones eficientes para llevar a cabo todo tipo de tareas. La Administración pública, con el objetivo último de contribuir a la adecuada consolidación de una administración inteligente, que sea eficiente, personalizada, electrónica y garante de los derechos de la ciudadanía, está incorporando, progresivamente, esta tecnología en el servicio público. Estas herramientas inteligentes cuentan con gran capacidad para mejorar la prestación de los servicios públicos, en la medida en que pueden procesar el lenguaje natural o analizar grandes cantidades de datos para ayudar a la toma de decisiones públicas, entre otras funciones. Esta nueva administración, junto con esa promesa de grandes mejoras en la actividad administrativa, va acompañada al mismo tiempo de una serie de riesgos con una clara dimensión jurídica y ética. El necesario avance tecnológico para la mejora del servicio público puede entrar, pues, en tensión con la seguridad jurídica, derechos fundamentales como la igualdad, la intimidad o la protección de datos personales; o con principios u obligaciones de actuación administrativa como la obligación de motivación, la transparencia o la eficacia del derecho de defensa o recurso, pues no siempre será posible conocer el porqué de los resultados proporcionados por algunas inteligencias artificiales. Entre otros retos que deberán abordarse regulatoriamente desde el derecho administrativo, se puede destacar entre sus desafíos principales el alcance de la transparencia (algorítmica), la motivación adecuada de decisiones asistidas por inteligencias artificiales y la responsabilidad en caso de daños producidos por seguir, o por ignorar, los resultados ofrecidos por el algoritmo. El presente trabajo forma parte de las actividades desarrolladas en el marco del proyecto «Retos jurídicos del uso de datos masivos para el fomento de la innovación y la buena administración a través de la inteligencia artificial» (IPs: Drs. Agustí Cerrillo y Juli Ponce). Programa Estatal de I+D+i Orientada a los Retos de la Sociedad (DER2017-85595-R).

  • català

    El desenvolupament de la intel·ligència artificial és prometedor i cada vegada són més les aplicacions i programes que, basant-se en aquesta, ofereixen solucions eficients per a dur a terme tot tipus de tasques. L’administració pública, amb l’objectiu últim de contribuir a l’adequada consolidació d’una administració intel·ligent, que sigui eficient, personalitzada, electrònica i garant dels drets de la ciutadania, està incorporant, progressivament, aquesta tecnologia en el servei públic. Aquestes eines intel·ligents compten amb una gran capacitat per a millorar la prestació dels serveis públics, en la mesura que poden processar el llenguatge natural o analitzar grans quantitats de dades per a ajudar a la presa de decisions públiques, entre altres funcions. Aquesta nova administració, juntament amb aquesta promesa de grans millores en l’activitat administrativa, va acompanyada al mateix temps d’una sèrie de riscos amb una clara dimensió jurídica i ètica. Així doncs, el necessari avenç tecnològic per a la millora del servei públic pot entrar en conflicte amb la seguretat jurídica, els drets fonamentals com ara la igualtat, la intimitat o la protecció de dades personals, o amb els principis o les obligacions d’actuació administrativa com, per exemple, l’obligació de motivació, la transparència o l’eficàcia del dret de defensa o recurs, ja que no sempre serà possible conèixer el perquè dels resultats proporcionats per algunes intel·ligències artificials. Entre altres reptes que s’hauran d’abordar regulatòriament des del Dret administratiu, es pot destacar entre els seus desafiaments principals l’abast de la transparència (algorítmica), la motivació adequada per a les decisions assistides per les intel·ligències artificials i la responsabilitat en cas de danys produïts per seguir, o per ignorar, els resultats oferts per l’algorisme.

  • English

    The development of artificial intelligence is promising and there are more and more applications and programmes which, based on said AI, offer efficient solutions for carrying out all kinds of tasks. Public administration, with the final objective of contributing to appropriate consolidation of an intelligent administration which can continue to be efficient, personalised, electronic and a guarantee of citizenship rights, is progressively incorporating this technology in public services. These intelligent tools have a great capacity for improving the provision of public services, to the extent that they can process natural language or analyse high quantities of data in order to help in making public decisions, among other functions. This new administration, together with this potential of great improvements in administrative activity, is accompanied at the same time by a series of risks with a clear legal and ethical dimension. As a result, the required technological progress for the improvement of public services can come into conflict with legal security, with basic rights such as equality at the present time, privacy or the protection of personal data, or with the principles or obligations of administrative conduct; for example, the obligation of motivation, transparency or the efficiency of defence or appeal law, as it will not always be possible to know the reason for the results given by some forms of artificial intelligence. Among other regulatory challenges that need to be addressed from the point of view of administrative law, it is possible to highlight in its principal aims the range of transparency (algorithmical), the suitable motivation for decisions assisted by artificial intelligences, and responsibility in the event of damages occasioned by following or by not being aware of the results provided by algorism.