IA y sanidad: algunas consideraciones sobre la confianza

• Alonso, Marcos ^[1] ; Ortega Lozano, Ramón ^[2] ; M. Astobiza, Aníbal ^[3]
  1. [1] Universidad Complutense de Madrid

     Universidad Complutense de Madrid

     Madrid, España

     
  2. [2] Universidad Pontificia Comillas

     Universidad Pontificia Comillas

     Madrid, España

     
  3. [3] Universidad de Granada

     Universidad de Granada

     Granada, España

     

  Mostrar afiliaciones +
• Localización: Eikasía: revista de filosofía, ISSN-e 1885-5679, Nº. Extra 134, 2026 (Ejemplar dedicado a: Inteligencias artificiales: V Congreso Iberoamericano de Filosofía de la Ciencia y la Tecnología), págs. 95-104
• Idioma: español
• Títulos paralelos:
  • AI and healthcare: some considerations on trust
• Enlaces
  • Texto completo
• Resumen
  • español

    En este artículo exploramos la naturaleza relacional de la confianza en los sistemas de inteligencia artificial aplicados al ámbito médico. Frente a los enfoques que tienden a localizar la confianza en propiedades individuales —ya sea del sujeto que confía o del objeto en quien se confía—, proponemos comprenderla como un fenómeno emergente que solo puede desplegarse plenamente en la interacción entre humanos y tecnologías. Analizamos críticamente algunos de los conceptos clave del debate actual —como la responsabilidad, la rendición de cuentas, el antropomorfismo y la alineación de valores—, mostrando que todos ellos resisten ser atribuidos unívocamente a uno de los polos de la relación. Sostenemos que una comprensión adecuada de estos constructos exige situarlos en una perspectiva relacional, donde la confianza no se deriva simplemente de cualidades técnicas o actitudes subjetivas, sino de estructuras compartidas de sentido, prácticas de corresponsabilidad y marcos institucionales adecuados. Este enfoque permite afrontar con mayor precisión los desafíos éticos de la IA médica y orienta el diseño de sistemas que no solo sean eficientes, sino también dignos de confianza en un sentido robusto.

  • English

    This article explores the relational nature of trust in artificial intelligence (AI) systems applied to the medical field. In contrast to approaches that tend to locate trust in individual properties—either of the trusting subject or of the object of trust—we propose understanding it as an emergent phenomenon that can only unfold fully within the interaction between humans and technologies. We critically analyze several key concepts in the current debate—such as responsibility, accountability, anthropomorphism, and value alignment—showing that none of them can be unequivocally attributed to a single pole of the relationship. We argue that an adequate understanding of these constructs requires situating them within a relational perspective, where trust does not simply derive from technical qualities or subjective attitudes, but from shared structures of meaning, practices of co-responsibility, and appropriate institutional frameworks. This approach allows for a more precise engagement with the ethical challenges of medical AI and guides the design of systems that are not only efficient but also trustworthy in a robust sense.