El razonamiento judicial y el uso la inteligencia artificial, ¿un riesgo para la figura del juez independiente?

• SUSANA ORTIZ HERNÁNDEZ ^[1]
  1. [1] TSJ Cataluña
• Localización: Revista Aranzadi Doctrinal, ISSN 1889-4380, Nº. 2, 2023
• Idioma: español
• Títulos paralelos:
  • Judicial reasoning and the use of artificial intelligence, a risk for the independent judge?
• Texto completo no disponible (Saber más ...)
• Resumen
  • español

    Las herramientas de evaluación y predicción basadas en inteligencia artificial se utilizan desde hace años en los tribunales estadounidenses, y aunque en nuestro sistema judicial todavía no se ha implantado este tipo de sistemas cuyo núcleo está formado por los algoritmos de aprendizaje profundo, es solo cuestión de tiempo. En muchas ocasiones se ha cuestionado la afectación que las creencias, las emociones, las circunstancias personales, el momento o la situación pueden tener en la independencia e imparcialidad que el juez debe mantener en la toma de sus decisiones. Sin embargo, el uso de los sistemas de inteligencia artificial son una amenaza, ya que no solo desconocemos cómo llegan a un resultado, sino que los algoritmos pueden ir mutando y creando nuevas reglas lógicas con las que alcanzar esas conclusiones. Surge así una posible falta de transparencia y capacidad para poder determinar si la herramienta de inteligencia artificial alcanzó un resultado realmente correcto, pues el juez desconoce qué variables ha tenido en cuenta el sistema y como interrelacionó estas para llegar una decisión determinada.

  • English

    Artificial intelligence-based assessment and prediction tools have been used in US courts for years, and while such systems with deep learning algorithms at their core have not yet been implemented in our judicial system, it is just a matter of weather. On many occasions, the impact that beliefs, emotions, personal circumstances, the moment, or the situation may have on the independence and impartiality that the judge must maintain in making his decisions has been questioned. However, the use of artificial intelligence systems is a threat, since not only do we not know how they reach a result, but also the algorithms can mutate and create new logical rules with which to reach those conclusions. Thus, a possible lack of transparency and ability to determine if the artificial intelligence tool achieved a truly correct result arises, since the judge does not know what variables, the system has considered and how it interrelated these to reach a certain decision.