Resumen de Responsabilidad de la Administración por el uso de inteligencia artificial
- español
El presente artículo analiza los posibles supuestos de responsabilidad de la Administración de Justicia por el uso de programas con IA.
En la actualidad el sistema de VioGen es un sistema mixto de predicción de nivel de riesgo de la víctima, pero en todo caso es el instructor el que debe adoptar las medidas cautelares u órdenes a adoptar en base a las declaraciones y el análisis del caso concreto. No obstante, se estudiar diversas disfunciones por el error en la predicción del nivel de riesgo y las deficiencias en el posterior control y seguimiento de las medidas de protección adoptadas. Se analizan igualmente los requisitos para reconocer responsabilidad por parte de la Administración por funcionamiento anormal o error judicial y los medios para exigir dicha responsabilidad. Se estudia la regulación existen a nivel nacional y europeo para declarar la responsabilidad por el uso de IA y los medios para reclamar la misma mencionando los casos de presunción de culpabilidad por dificultad probatoria. Por último, se estudia la responsabilidad por programación basada en algoritmos en cuya programación se han vulnerado garantías procesales.
- English
This article analyzes the possible cases of responsibility of the Administration of Justice for the use of programs with AI.
Currently, the VioGen system is a mixed system for predicting the victim’s risk level, but in any case it is the instructor who must adopt the precautionary measures or orders to be adopted based on the statements and analysis of the specific case. However, various dysfunctions are studied due to errors in predicting the level of risk and deficiencies in the subsequent control and monitoring of the protective measures adopted. The requirements to recognize responsibility on the part of the Administration for abnormal operation or judicial error and the means to demand said responsibility are also analyzed. The regulations that exist at the national and European level to declare responsibility for the use of AI and the means to claim the same are studied, mentioning cases of presumption of guilt due to evidentiary difficulty. Finally, liability for programming based on algorithms in whose programming procedural guarantees have been violated is studied.
