Resumen de Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales

Graciela Padilla Castillo, María Luisa García Guardia, Víctor Cerdán Martínez

• español

  Los deepfakes son vídeos manipulados donde se suplanta la cara de una persona por la de otra a través de Inteligencia Artificial. Estos contenidos fotorrealistas pueden convertirse en armas de acoso, propaganda o conflicto social. Esta investigación de innovación teórica ahonda en la incipiente literatura científica sobre el deepfake en Ciencias Sociales, poniendo sus bases en los trabajos de Wenceslao Castañares. Sus objetivos son analizar el fenómeno, buscar herramientas para detectarlo y combatirlo, e inaugurar una nueva vía de alfabetización moral digital de especial interés en el campo de la comunicación, por su importancia social y política. Se emplea una metodología diacrónica en dos pasos. En primer lugar, se realiza una investigación bibliográfica longitudinal y se ofrece una descripción histórica, sistémica y descriptiva, con los rasgos más importantes del fenómeno, naturaleza, funcionamiento y posibles usos. En segundo lugar, se realiza una observación científica consciente de más de medio centenar de vídeos deepfake, para percibir el fenómeno, conseguir una mayor generalización y garantizar la validez de los resultados. Los resultados muestran que aunque se han creado softwares de detección de este tipo de fakes, aún no son de acceso libre y gratuito. La única manera de reconocer el deepfake es a través de una educación moral digital, que pueda detectar una serie de parámetros visuales hiperrealistas: frecuencia del parpadeo, efecto intermitente de las caras o transiciones entre cabeza y cuello.

• English

  Deepfakes are manipulated videos where a person's face is supplanted by that of another through Artificial Intelligence. These photorealistic contents can become weapons of harassment, propaganda or social conflict. This theoretical innovation research delves into the emerging scientific literature on deepfake in Social Sciences, laying its foundations on the research of Wenceslao Castañares. Its objectives are to analyse the phenomenon, find tools to detect and combat it, and inaugurate a new way of moral digital literacy of special interest in the field of communication, due to its social and political importance. A two-step diachronic methodology is used. First, a longitudinal bibliographic investigation is carried out and a historical, systemic and descriptive description is offered, with the most important features of the phenomenon, nature, operation and possible uses. Second, there is a conscious scientific observation of more than fifty deepfake videos, to perceive the phenomenon, achieve greater generalization and guarantee the validity of the results. The results show that although detection software for this type of fakes has been created, it is not yet freely available. The only way to recognize the deepfake is through a digital moral education, which can detect a series of hyper-realistic visual parameters: the frequency of blinking, the subtle intermittent effect of the faces or the transitions between the head and neck.