De la biomejora moral a la IA para la mejora moral: asistentes morales artificiales en la era de los riesgos globales

• Neira Castro, Pablo ^[1]
  1. [1] Universidad Complutense de Madrid

     Universidad Complutense de Madrid

     Madrid, España

     
• Localización: Enrahonar: an international journal of theoretical and practical reason, ISSN-e 2014-881X, ISSN 0211-402X, Nº 72, 2024 (Ejemplar dedicado a: Un gir polític al debat sobre la millora genètica), págs. 113-138
• Idioma: español
• Títulos paralelos:
  • From moral bio-enhancement to AI for moral enhancement: Artificial moral assistants in the age of global risks
  • De la biomillora moral a la IA per a la millora moral: assistents morals artificials a l'era dels riscos globals
• Enlaces
  • Texto completo
• Resumen
  • español

    En este artículo argumento que el empleo de tecnologías biomédicas para la mejora moral es inadecuado para evitar riesgos globales, debido a que puede provocar problemas similares a los que se pretenden resolver por medio de su uso. Por este motivo, defiendo la conveniencia de explorar otras tecnologías para la mejora moral que no supongan tantos peligros y argumento en favor de un modelo de mejora moral por medio de la inteligencia artificial. En concreto, defiendo el empleo de SocrAI, un asistente moral artificial diseñado para mejorar nuestra deliberación moral. Para ello, propongo tres criterios que permitan evaluar y aumentar su seguridad y eficacia. Asimismo, señalo la importancia de tener en cuenta las cuestiones estructurales e institucionales —i. e., las normas o los incentivos políticos, económicos, sociales y culturales— en las propuestas de mejora moral, y muestro cómo SocrAI puede tener impacto en ellas.

  • català

    En aquest article argumento que l'ús de tecnologies biomèdiques per a la millora moral és inadequat per evitar riscos globals, pel fet que pot provocar problemes similars als que es pretenen resoldre per mitjà del seu ús. Per aquest motiu, defenso la conveniència d'explorar altres tecnologies per a la millora moral que no suposin tants perills i argumento a favor d'un model de millora moral per mitjà de la intel·ligència artificial. En concret, defenso l'ús de SocrAI, un assistent moral artificial dissenyat per millorar la nostra deliberació moral. Per fer-ho, proposo tres criteris que permetin avaluar i augmentar la seva seguretat i eficàcia. Així mateix, assenyalo la importància de tenir en compte les qüestions estructurals i institucionals —i. e., les normes o els incentius polítics, econòmics, socials i culturals— en les propostes de millora moral, i mostro com SocrAI pot tenir impacte en aquestes.

  • English

    In this article, I argue that the use of biomedical technologies for moral enhancement is inadequate for mitigating global risks, as this can lead to problems similar to those they seek to address. For this reason, I advocate for exploring alternative technologies for moral enhancement that entail fewer risks, and I make a case for a model of moral enhancement through artificial intelligence. Specifically, I support the use of SocrAI, an artificial moral assistant designed to improve our moral deliberation, and propose three criteria to assess and enhance its safety and efficacy. Additionally, I highlight the importance of considering structural and institutional issues – i.e., political, economic, social and cultural norms or incentives – in moral enhancement proposals, and demonstrate how SocrAI can have an impact on them.