Sesgo de género (en IA)

• Pérez-Ugena Coromina, María ^[1]
  1. [1] Universidad Rey Juan Carlos

     Universidad Rey Juan Carlos

     Madrid, España

     
• Localización: Eunomía: Revista en Cultura de la Legalidad, ISSN-e 2253-6655, Nº. 26, 2024, págs. 311-330
• Idioma: español
• Títulos paralelos:
  • Gender bias (in AI)
• Enlaces
  • Texto completo
• Resumen
  • español

    Ante la emergencia de sistemas de inteligencia artificial en múltiples esferas, resulta imprescindible la incorporación de la perspectiva de género para impedir la perpetuación y fortalecimiento de estereotipos y conductas discriminatorias mediante la presencia de sesgos en los algoritmos.La IA demanda una intervención consciente en su desarrollo y en la formulación de algoritmos, así como el cumplimiento de principios clave, como la transparencia y la responsabilidad, vitales para eludir el sesgo de género. El sesgo se demuestra mediante varios estudios y conlleva discriminación. Tiene su origen, generalmente, en la subrepresentación de grupos y se suele manifestar de forma indirecta. Se incluye un análisis del marco ético y regulatorio aplicable a los sistemas de inteligencia artificial en lo que resulta aplicable a la cuestión de género.

  • English

    In the face of the emergence of artificial intelligence systems in multiple spheres, the incorporation of a gender perspective is essential to prevent the perpetuation and strengthening of stereotypes and discriminatory behaviors through biases in algorithms.AI demands a conscious intervention in its development and algorithm formulation, along with adherence to key principles such as transparency and responsibility, vital to avoiding gender bias. Bias is demonstrated through various studies and entails discrimination. It generally originates from the underrepresentation of groups and tends to manifest indirectly. An analysis of the regulatory framework applicable to artificial intelligence systems is included, as far as it is relevant to the gender issue.