Resumen de Empleo de ChatGPT en educación biomédica. Análisis de riesgos desde los principios éticos de la UNESCO y el Reglamento de la Unión Europea sobre Inteligencia Artificial

José Miguel Biscaia Fernández, María Rocío González Soltero, Carlos Julio Biscaia Fernández, Rosa Mohedano del Pozo, A.I. Rodríguez Learte

• español

  La inteligencia artificial generativa (IAG), con aplicaciones como ChatGPT, se ha convertido en una interesante herramienta en el ámbito de la educación biomédica. Entre sus bondades destaca la simplificación y mejora del proceso enseñanza-aprendizaje, favoreciendo la búsqueda de información, la creación y actualización de contenido, la simulación de escenarios clínicos, la atención personalizada o la evaluación inmediata. Sin embargo, son muchos los riesgos que comporta una herramienta tan novedosa y disruptiva. Debido a ello, con el objetivo de evaluar estas amenazas, utilizamos los Principios Éticos de la UNESCO y el Reglamento de la Unión Europea sobre Inteligencia Artificial, concluyendo que el principal riesgo de estas aplicaciones deriva de su potencial capacidad discriminatoria, especialmente en referencia a la evaluación y categorización de los estudiantes; también, de la aparición de diferentes sesgos técnicos, de la falta de equidad, de control, de transparencia y de privacidad, o del plagio y la falsa autoría.

• English

  Generative Artificial Intelligence (GAI), with applications such as ChatGPT, has become an interesting tool in the field of biomedical education. Its benefits include in particular the simplification and improvement of the teaching-learning process, favoring the search for information, the creation and updating of content, the simulation of clinical scenarios, personalized attention or immediate evaluation. However, there are many risks involved with such a novel and disruptive tool. Due to this, in order to evaluate these threats, we use the UNESCO Ethical Principles and the European Union Regulation on Artificial Intelligence, concluding that the main risk of these applications derives from their potential discriminatory capacity, especially in reference to the evaluation and categorization of students; also, the appearance of different technical biases, the lack of equity, control, transparency and privacy, or plagiarism and false authorship.