Sesgos en la creación de imágenes por sistemas TTI de IA: hibridando arte, ciencia y tecnología

• Alejandra Bueno de Santiago ^[1] ; Laura Martinez Martin ^[1] ; Aiskoa Pérez ^[1]
  1. [1] Universidad de Vitoria-Gasteiz
• Localización: EX±ACTO: VI Congreso Internacional de Investigación en Artes Visuales ANIAV 2024 / Elias Perez Garcia (dir. congr.), Emilio Martínez (dir. congr.), Bia Santos (dir. congr.), 2024, ISBN 978-84-1396-211-5, págs. 140-145
• Idioma: español
• Títulos paralelos:
  • Biases in image creation by AI TTI systems: hybridizing art, science and technology
• Enlaces
  • Texto completo
• Resumen
  • español

    En un contexto de avances vertiginosos en inteligencia artificial (IA), surge la necesidad crítica desde las prácticas artísticas de comprender cómo esta tecnología puede verse afectada por sesgos inherentes a la sociedad tradicional. En este punto planteamos indagar bajo la pedagogía crítica y la premisa de las imágenes que actúan cómo se comportan las imágenes generadas por IA desde una mirada artística, feminista e interseccional. Partiendo de la hipótesis de que los algoritmos de IA reflejan y pueden amplificar los sesgos presentes en los conjuntos de datos de entrenamiento, el estudio se propuso identificar y cuantificar estos sesgos en las imágenes generadas. Mediante metodologías cuantitativas y cualitativas los resultados del análisis de imágenes son puestos en diálogo con el cuerpo teórico de la investigación que se centra en bases de datos, construcción de imágenes, y prácticas artísticas feministas. En este texto se presenta un resumen teórico y analítico del total de la investigación, siendo esta visible en la página web del proyecto. El objetivo principal fue destacar cómo la IA puede reproducir y perpetuar prejuicios y estereotipos presentes en la sociedad a través de la generación de imágenes. Los resultados obtenidos respaldaron la hipótesis inicial, mostrando una tendencia de los algoritmos de IA a reflejar y amplificar los sesgos presentes en los datos de entrenamiento, siendo los más evidentes género y raza. Este estudio subraya la importancia de comprender y abordar los sesgos en la generación de imágenes con IA para garantizar equidad y representatividad. Además, destaca la necesidad de investigar desde las artes los campos más tecnológicos como la IA, ya que la intersección de estas disciplinas puede proporcionar perspectivas únicas y soluciones innovadoras para abordar los desafíos éticos y sociales planteados por el avance de la IA. Este enfoque integral puede fomentar un diálogo interdisciplinario en el desarrollo de IA, promoviendo una mayor conciencia sobre los posibles sesgos y la importancia de mitigarlos para construir sistemas más equitativos y responsables.

  • English

    In a context of vertiginous advances in artificial intelligence (AI), the critical need arises from artistic practices to understand how this technology can be affected by biases inherent to traditional society. At this point we propose to investigate under the critical pedagogy and the premise of the images that act how the images generated by AI behave from an artistic, feminist, and intersectional point of view. Based on the hypothesis that AI algorithms reflect and can amplify biases present in training datasets, the study set out to identify and quantify these biases in the generated images. Using quantitative and qualitative methodologies the results of the image analysis are placed in dialogue with the theoretical body of research that focuses on databases, image construction, and feminist art practices. A theoretical and analytical summary of the total research is presented in this text and is visible on the project website. The main objective was to highlight how AI can reproduce and perpetuate prejudices and stereotypes present in society through the generation of images. he results obtained supported the initial hypothesis, showing a tendency for AI algorithms to reflect and amplify biases present in the training data, the most evident being gender and race. This study underscores the importance of understanding and addressing biases in AI image generation to ensure fairness and representativeness. Furthermore, it highlights the need for research from the arts into more technological fields such as AI, as the intersection of these disciplines can provide unique perspectives and innovative solutions to address the ethical and social challenges posed by the advancement of AI. This holistic approach can foster an interdisciplinary dialogue in AI evelopment, promoting greater awareness of potential biases and the importance of mitigating them in order to build more equitable and accountable systems.