Resumen de Derecho a la explicación en el tratamiento de datos personales con el uso de sistemas de ia

Eleftheria Papadimitriou

• español

  La transparencia es uno de los principios básicos consagrados en el Reglamento General de Protección de Datos (RGPD). Lograr la transparencia en el procesamiento automatizado de la toma de decisiones, especialmente cuando interviene la inteligencia artificial (IA), es una tarea desafiante en muchos aspectos. La opacidad de los sistemas de IA, que normalmente se conoce como el fenómeno de la “caja negra”, es el principal problema para tener una IA explicable y responsable. Los informáticos están trabajando en técnicas de IA explicables (XAI) para hacer que la IA sea más confiable. En la misma línea, y por tanto desde una perspectiva diferente, el legislador europeo prevé en el RGPD el derecho a la información cuando se produce un procesamiento automatizado de la toma de decisiones. El interesado tiene derecho a ser informado sobre la lógica implicada y a impugnar la toma de decisiones automatizada. El RGPD introduce, por tanto, un derecho sui generis a una explicación en el proceso automatizado de toma de decisiones. Bajo esta luz, el artículo analiza la base jurídica de este derecho y las barreras técnicas involucradas.

• English

  Transparency is one of the basic principles enshrined in the General Data Protection Regulation (GDRP). Achieving transparency in automated decision-making processing especially when artificial intelligence (AI) is involved is a challenging task on many aspects. The opaqueness of AI systems that usually is referred as the “black-box” phenomenon is the main problem in having explainable and accountable AI. Computer scientists are working on explainable AI (XAI) technics in order to make AI more trustworthy. On the same vein, thus from a different perspective, the European legislator provides in the GDPR with a right to information when automated decision-making processing takes place. The data subject has the right to be informed on the logic involved and to challenge the automated decision-making. GDPR introduces, therefore, a sui generis right to explanation in automated decision-making process. Under this light, the paper analyzes the legal basis of this right and the technical barriers involved.