Resumen de Algoritmos matemáticos para una inteligencia artificial responsable, ética y transparente

José Manuel Calabuig Rodríguez, Antonia Ferrer Sapena, Lluís Miquel García Raffi, María Fernanda Peset Mancebo, Enrique Alfonso Sánchez Pérez, Isabel Sánchez del Toro

• español

  En la primera parte de este trabajo abordamos (de una manera divulgativa) la situación actual de la inteligencia artificial (IA) y sus modalidades, destacando la importancia de comprenderla para argumentar adecuadamente sobre sus riesgos y alcances.

  Presentamos brevemente el funcionamiento de ChatGPT y con- cluimos dicha parte hablando sobre el sesgo de los datos (ejem- plificado con el caso del programa COMPAS). Teniendo en cuenta que el peligro de la IA radica en su uso específico y no en la tec- nología, en la segunda parte (de carácter más técnico) nos aden- tramos en la llamada Inteligencia Artificial Explicable (XIA) que intenta responder a la pregunta “¿Cómo toma sus decisiones un determinado algoritmo de IA?”, presentando algunas de sus téc- nicas. Terminamos el trabajo con una sección de conclusiones.

• català

  Ala primera part d’aquest treball, abordem (d’una manera di- vulgativa) la situació actual de la intel·ligència artificial (IA) i les seves modalitats, destacant la importància de comprendre-la per argumentar adequadament sobre els seus riscos i avenços.

  Presentem breument el funcionament de ChatGPT i conclouem aquesta part parlant del biaix de les dades (exemplificat amb el cas del programa COMPAS). Tenint en compte que el perill de la IA resideix en el seu ús específic i no en la tecnologia, a la segona part (de caràcter més tècnic) ens endinsem en la anomenada Intel·ligència Artificial Explicable (XIA), que intenta respondre a la pregunta “Com pren les seves decisions un algorisme d’IA de- terminat?”, presentant algunes de les seves tècniques. Acabem el treball amb una secció de conclusions.