La incorporación de la inteligencia artificial por la administración pública brasileña y la práctica de los actos administrativos

• Autores: Bárbara Mendonça Bertotti
• Localización: Memorias del IV Congreso Latinoamericano de Estudiantes de Derecho Administrativo. El futurode la Administración Pública: modernización, transformación y accesibilidad / coord. por Gianpierre Valverde Encarnación, James Fernandez Salguero, Andrés Zúñiga Najarro, Kimy Paredes Aranda, 2023, ISBN 978-612-5031-89-1, págs. 32-47
• Idioma: español
• Títulos paralelos:
  • The incorporation of artificial intelligence by the brazilian public administration and the practice of administrative acts
• Enlaces
  • Texto Completo Libro (pdf)
• Resumen
  • español

    Una inteligencia artificial bien entrenada, con acceso al flujo de información, simplificay facilita exponencialmente las actividades de una organización, pudiendo obtener resultadosque serían imposibles de lograr con el cerebro humano. Algunos consideran el que desafío máscomplejo e indispensable de los próximos años es hacer compatible la inteligencia artificial conlos derechos humanos. Particularmente, en términos de garantizar la intervención humana enlas decisiones o predicciones de algoritmos inteligentes y en relación con la cantidad de dichaintervención necesaria para el resultado del proceso.En este escenario, se necesita un marco legal para este nuevo entorno digital que permitala sostenibilidad, el desarrollo, la igualdad, el derecho al futuro, la dignidad y la no exclusión.Específicamente, sobre el uso de la IA por parte de la Administración Pública brasileña. Suincorporación es inevitable y ya está sucediendo, considerando, además, las estrategias ya trazadaspor el gobierno. Desde esta perspectiva, es necesario investigar la toma de decisiones públicasa través de la IA, especialmente en lo que respecta a la práctica de los actos administrativos,sus límites y desafíos. Dentro de esto, surgen algunas preguntas, como las siguientes: ¿Puedeun sistema que utiliza la IA, realizar actos administrativos de manera autónoma? En casoafirmativo, ¿qué tipo de actos? ¿solo los vinculados o también los discrecionales? ¿cuáles seríanlos límites de esta discreción? ¿en qué campos de decisión podría actuar la IA (organización,control, etc.)? ¿existirá la posibilidad de revisar estos actos, con posterior validación, si fueranecesario? ¿habría necesidad de supervisión o la IA tendría suficiente autonomía para actuarsola? ¿se podría utilizar el aprendizaje profundo como técnica de aprendizaje o simplementecomo aprendizaje automático? ¿cómo garantizar que se respeten, promuevan y protejan losderechos fundamentales de los ciudadanos en este nuevo entorno de toma de decisiones? Enel caso de responsabilidad civil extracontractual, ¿la acción de devolución sería contra quién (elprogramador, el servidor público responsable de la máquina, un tercero)? Es en este sentido quese construye esta investigación, proponiendo reflexiones y presentando un poco de la realidadbrasileña sobre la incorporación de la IA en la Administración Pública.

  • English

    A well-trained artificial intelligence, with access to the flow of information, exponentiallysimplifies and facilitates the activities of an organization, being able to obtain results thatwould be impossible to achieve with the human brain. Some consider the most complex andindispensable challenge of the coming years to be making artificial intelligence compatible withhuman rights-Particularly, in terms of guaranteeing human intervention in the decisions orpredictions of intelligent algorithms and in relation to the amount of such intervention necessaryfor the outcome of the process.In this scenario, a legal framework is needed for this new digital environment that allowsfor sustainability, development, equality, the right to the future, dignity and non-exclusion.Specifically on the use of AI by the Brazilian Public Administration, its incorporation is inevitableand is already happening, considering, in addition, the strategies already outlined by thegovernment. From this perspective, it is necessary to investigate public decision making throughAI, especially regarding the practice of administrative acts, its limits and challenges. Within this,some questions arise, such as the following: can a system using AI perform administrative actsautonomously? If so, what kind of acts? only bound or also discretionary ones? what would bethe limits of this discretion? in which decision fields could AI act (organization, control, etc.)?will there be the possibility of reviewing these acts, with subsequent validation, if necessary?would there be a need for supervision or would AI have enough autonomy to act alone? coulddeep learning be used as a learning technique or simply as machine learning? how to ensure thatthe fundamental rights of citizens are respected, promoted and protected in this new decisionmaking environment? in the case of tort liability, would the action for restitution be againstwhom (the programmer, the public servant responsible for the machine, a third party)? It is inthis sense that this research is built, proposing reflections and presenting a little of the Brazilianreality on the incorporation of AI in Public Administration