Inteligencia artificial y transparencia

• Autores: Elisa de la Nuez Sánchez-Cascado
• Localización: Derecho Digital e Innovación. Digital Law and Innovation Review, ISSN-e 2659-871X, Nº. 5 (abril- junio), 2020
• Idioma: español
• Texto completo no disponible (Saber más ...)
• Resumen
  • español

    El artículo reflexiona sobre las implicaciones del uso de la inteligencia artificial y de los algoritmos en los procesos de toma de decisiones, con especial atención al ámbito público en un momento en que su regulación es todavía prácticamente inexistente. Se subrayan los retos que puede plantear la inteligencia artificial, que es capaz de aprender a partir de los datos que se le suministran en particular frente a los colectivos más vulnerables que pueden verse perjudicados por su utilización en ámbitos como la justicia, la seguridad, los beneficios sociales, etc., etc., forma de sesgos, discriminación, arbitrariedades y falta de control. Se destaca el importante papel que puede jugar la transparencia como herramienta fundamental para la exigencia de rendición de cuentas. Se analiza el primer caso que se ha planteado en España y que ha sido resuelto por el Consejo de Transparencia y Buen Gobierno y se plantean las posibilidades del derecho de acceso a la información pública en ese ámbito. Por último, se hace referencia también a la incipiente regulación de los procedimientos totalmente automatizados en la Ley 39/2015 y a los requisitos que recoge esta norma para aquellos supuestos donde no intervienen los seres humanos

  • English

    The article reflects on the implications of the use of artificial intelligence and algorithms in decision-making processes, with special attention to the public sphere at a time when its regulation is still practically non-existent. It highlights the challenges that artificial intelligence can pose, which is capable of learning from the data provided to it, particularly with regard to the most vulnerable groups that can be harmed by its use in areas such as justice, security, social benefits..., in the form of bias, discrimination, arbitrariness and lack of control. The important role that transparency can play as a fundamental tool for demanding accountability is highlighted. The first case that has arisen in Spain and that has been resolved by the Council for Transparency and Good Governance is analysed and the possibilities of the right of access to public information in this field are raised. Finally, reference is also made to the incipient regulation of fully automated procedures in Law 39/2015 and the requirements contained in this law for those cases where human beings do not intervene.