“Creando” una auditoría para verificar la ética de la Inteligencia artificial

• Laura Davara Fernández de Marcos ^[1]
  1. [1] Universidad Europea de Madrid

     Universidad Europea de Madrid

     Madrid, España

     
• Localización: Derecom: Revista Internacional de Derecho de la Comunicación y las Nuevas Tecnologías, ISSN-e 1988-2629, Vol. 38, Nº. 1, 2025, págs. 95-102
• Idioma: español
• Títulos paralelos:
  • “Creating” an audit to check the ethics of Artificial Intelligence
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    El presente artículo se centra en la creación de una auditoría para verificar la ética en la inteligencia artificial (IA) puesto que constituye el tercer pilar de la IA junto con cuestiones legales y técnicas. Precisamente por la importancia de auditar la ética que hay detrás de las decisiones de la IA, la autora utiliza ChatGPT para proponer una auditoría ética basándose, en un primer momento, en dar respuesta a ocho cuestiones esenciales, a saber: ¿Cómo se garantiza que los datos utilizados para entrenar la IA están libres de sesgos discriminatorios?; ¿Qué mecanismos hay para que los usuarios afectados por decisiones de la IA puedan apelar decisiones sesgadas?;¿Qué medidas se implementan para evitar que los modelos generen contenido ofensivo o dañino?; ¿Cómo se gestiona el uso de IA para prevenir su abuso en la creación de deepfakes o la manipulación de imágenes y videos?;¿Cómo se asegura que los datos utilizados para entrenar la IA cumplen con las normativas de protección de datos como el GDPR?; ¿Cómo se maneja el impacto ambiental del entrenamiento de sus modelos de IA?; ¿Qué medidas se implementan para garantizar que su IA no sea utilizada con fines maliciosos?; ¿Qué medidas se toman para proteger a los menores de la exposición a IA que pueden influir negativamente en su desarrollo? El objetivo del artículo es sentar las bases de una auditoría de la ética de la IA, asegurando que la ética esté integrada en el ADN de cualquier IA diseñada.

  • English

    In this paper we focus on creating an audit to verify the ethics in artificial intelligence (AI) as it turns out to be the third pillar of AI alongside legal and technical issues. Precisely because of the importance of auditing the ethics behind AI decisions, the author uses ChatGPT to propose an ethical audit based initially on addressing eight essential questions, namely: How is it ensured that the data used to train the AI is free from discriminatory biases?; What mechanisms are in place for users affected by AI decisions to appeal biased decisions?; What measures are implemented to prevent models from generating offensive or harmful content?; How is the use of AI managed to prevent its abuse in creating deepfakes or manipulating images and videos?; How is it ensured that the data used to train the AI complies with data protection regulations such as GDPR?; How is the environmental impact of training AI models managed?; What measures are implemented to ensure that AI is not used for malicious purposes?; What measures are taken to protect minors from exposure to AI that may negatively influence their development? The goal of the paper is to lay the foundations for an AI ethics audit, ensuring that ethics is integrated into the DNA of any designed AI.Keywords.ethics, Artificial Intelligence, audit, biases, data protection.