Ètica i governança de la intel·ligència artificial en els serveis socials

• Torrens Mèlich, Lluís ^[1]
  1. [1] Generalitat de Catalunya

     Generalitat de Catalunya

     Barcelona, España

     
• Localización: Ars Brevis: anuario de la Càtedra Ramon Llull Blanquerna, ISSN 1136-3711, Nº. 31, 2025, págs. 94-102
• Idioma: catalán
• Títulos paralelos:
  • Ética y gobernanza de la inteligencia artificial en los servicios sociales
  • Ethics and Governance of Artificial Intelligence in Social Services
• Enlaces
  • Texto completo
• Resumen
  • español

    RESUMEN: Este artículo sostiene que, en el ámbito de los servicios sociales y del sector público, la inacción ante la inteligencia artificial (IA) no es neutral, sino una decisión con consecuencias sobre tiempos de espera, errores, desigualdades y burocracia. Propone superar el falsodilema entre veto precautorio y aceleración acrítica, y plantear la IA como un elemento más del organigrama socio-técnico de las organizaciones, sometido a reglas claras de finalidad, responsabilidad y control.

    A partir de la imagen de una “IA que aprende de los hábitos reales”, se formula una ética ampliada de la profesión: hacer bien el trabajo sin IA, explorar posibilidades de mejora, trabajar con IA sin delegar el criterio y entrenarla mediante buena práctica. El artículo presenta un modelo de “semáforo de riesgos” (zona verde, ámbar y roja) para clasificar usos de la IA y de la innovación, que se complementa con un código de cinco compromisos: finalidad y beneficio público explícitos, deber de mejora y de no parálisis, proporcionalidad, responsabilidad y trazabilidad, y cultura de ejemplo y aprendizaje. Se defiende que la rendición decuentas debe incluir también los costes éticos de no innovar cuando el riesgo es bajo y el valor social potencial es alto.

    PALABRAS CLAVE: inteligencia artificial, ética pública, servicios sociales, innovación responsable, gestión del riesgo, gobernanza algorítmica.

  • català

    RESUM: Aquest article defensa que, en l’àmbit dels serveis socials i del sector públic, la inacció davant la intel·ligència artificial (IA) no és neutral, sinó una decisió amb conseqüències sobre temps d’espera, errors, desigualtats i burocràcia. Proposa superar el fals dilema entre veto precautori i acceleració acrítica, i planteja la IA com un element més de l’organigrama sociotècnic de les organitzacions, sotmès a normes clares de finalitat, responsabilitat i control. A partir de la imatge d’una “IA que aprèn dels hàbits reals”, es formula una ètica ampliada de la professió: fer bé la feina sense IA, explorar possibilitats de millora, treballar amb IA sense delegar el criteri i entrenar-la amb bona pràctica. L’article presenta un model de “semàfor de riscos” (zona verda, taronja i vermella) per classificar usos de la IA i de la innovació, i el complementa amb un codi de cinc compromisos: finalitat i benefici públic explícits, deure de millora i de no paràlisi, proporcionalitat, responsabilitat i traçabilitat, i cultura d’exemple i aprenentatge. Es defensa que la rendició de comptes ha d’incloure també els costos ètics de no innovar quan el risc és baix i el valor social potencial és alt.

    PARAULES CLAU: intel·ligència artificial, ètica pública, serveis socials, innovació responsable, gestió del risc, governança algorísmica.

  • English

    ABSTRACT: This article argues that, in social services and the public sector, inaction in the face of artificial intelligence (AI) is not neutral but a decision with consequences for waiting times, errors, inequalities and bureaucracy. It calls for moving beyond the false dilemma between precautionary veto and uncritical acceleration, and for treating AI as another component of the organisation’s socio-technical chart, subject to clear rules regarding purpose, responsibility and control. Drawing on the image of an “AI that learns from real habits”, the paper formulates an expanded professional ethics: doing the job well without AI, actively exploring opportunities for improvement, working with AI without delegating judgement, and training it through good practice. It introduces a “traffic-light” risk model (green, amber and red zones) to classify uses of AI and innovation, complemented by a five-point code of commitments: explicit public purpose and benefit, a duty to improve and to avoid paralysis, proportionality, responsibility and traceability, and a culture of example and continuous learning. The article argues that accountability should also cover the ethical costs of failing to innovate when risks are low and the potential social value is high.

    KEYWORDS: artificial intelligence; public ethics; social services; responsible innovation; risk management; algorithmic governance.