Cyberbullying Detection on Twitter for the Colombian Population Using Artificial Intelligence Techniques

• Felipe Mauricio Guerra Sáenz ^[1] ; Oscar Fernando Bedoya Leiva ^[1] ; Marcela Holguín Mera ^[2]
  1. [1] Universidad del Valle (Colombia)

     Universidad del Valle (Colombia)

     Colombia

     
  2. [2] St. Bonaventure University

     St. Bonaventure University

     Town of Allegany, Estados Unidos

     
• Localización: Revista EIA, ISSN-e 1794-1237, Vol. 22, Nº. 44, 2025
• Idioma: inglés
• Títulos paralelos:
  • Detección de ciberacoso en Twitter para la población colombiana usando técnicas de inteligencia artificial
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    El ciberacoso es un problema cada vez más relevante en la sociedad contemporánea que puede tener consecuencias graves en el bienestar emocional y psicológico de las víctimas. Actualmente, debido al voluminoso intercambio de interacciones digitales, resulta desafiante y laborioso para los moderadores de las plataformas en línea detectar y eliminar todos los comentarios ciberacosadores de manera manual. Por lo tanto, se necesitan modelos automáticos que por medio de técnicas de inteligencia artificial detecten el ciberacoso. En este artículo se proponen modelos basados en técnicas de aprendizaje automático y en modelos del lenguaje para la detección de ciberacoso en la red social Twitter. Las técnicas de aprendizaje automático utilizadas son XGBoost, regresión logística, y bosques aleatorios. Por su parte, como modelo de lenguaje se hizo un proceso de fine-tuning al modelo de lenguaje enmascarado basado en transformer llamado roberta-base-bne. A pesar de que actualmente se tienen diferentes modelos para este mismo propósito, en su mayoría están hechos usando palabras en inglés. En el caso del español son muy pocos los trabajos propuestos y en el caso particular del español colombiano no se tiene precedente de aportes en el área. En este artículo se propone además un corpus que contiene tweets escritos en español colombiano y que fueron anotados por una terapeuta ocupacional experta. A partir de este corpus se crean dos conjuntos de datos. El dataset 1 se caracteriza por tener, para una palabra dada, un tweet anotado como ciberacoso que contiene dicha palabra y otro tweet anotado como no ciberacoso con la misma palabra. Esto se logra gracias a que se tiene en cuenta el contexto en el que se usa cada palabra. Por su parte, el dataset 2 usa palabras diferentes en los tweets que son ciberacoso y en aquellos que no lo son. El propósito de utilizar estos dos conjuntos de datos se centra en capturar diversas manifestaciones del lenguaje y su contexto, y evaluar si las técnicas utilizadas permiten entender dicho contexto. Los resultados obtenidos muestran que los modelos propuestos con regresión logística, bosques aleatorios, XGBoost, y roberta-base-bne, alcanzan un área bajo la curva ROC en el dataset 1 de 0.797, 0.796, 0.785, y 0.910, respectivamente. Por su parte, en el dataset 2, el área bajo la curva ROC es de 0.983, 0.978, 0.971, y 0.996, respectivamente. Finalmente, se presenta una aplicación web llamada AI Cyberbullying Detector que está dirigida a terapeutas para que puedan hacer uso de la inteligencia artificial en estudios relacionados con el ciberacoso.

  • English

    Cyberbullying is an increasingly relevant issue in contemporary society that can have serious consequences on the emotional and psychological well-being of victims. Currently, due to the vast exchange of digital interactions, it is challenging and labor-intensive for online platform moderators to manually detect and remove all cyberbullying comments. Therefore, there is a need for automatic models that employ artificial intelligence techniques to detect cyberbullying. This article proposes machine learning-based models and language-based models for cyberbullying detection on the social network Twitter. The machine learning techniques used are XGBoost, logistic regression, and random forests. On the language model side, a fine-tuning process was applied to a masked language model based on a transformer named roberta-base-bne. Although there are currently various models for this purpose, most of them are developed using English. In the case of Spanish, there are very few studies, and in the particular case of Colombian Spanish, there is no precedent for contributions in this area. Additionally, this article introduces a corpus comprising tweets written in Colombian Spanish, meticulously annotated by a qualified occupational therapist. Two distinct datasets stem from this corpus. Dataset 1 is characterized by the annotation of a tweet as cyberbullying and another as non-cyberbullying, both containing the same word, carefully considering the context in which each word is employed. In contrast, Dataset 2 features different words in cyberbullying and non-cyberbullying tweets. The rationale behind utilizing these two datasets lies in capturing diverse language expressions and their contextual nuances, assessing the effectiveness of the applied techniques in discerning such context. Results from dataset 1 reveal that models achieve an area under the ROC curve of 0.797, 0.796, 0.785, and 0.910 with logistic regression, random forests, XGBoost, and roberta-base-bne, respectively. Meanwhile, employing Dataset 2 yields área under the ROC curve values of 0.983, 0.978, 0.971, and 0.996, respectively. Finally, we introduce a web application named AI Cyberbullying Detector tailored for therapists, empowering them to leverage artificial intelligence in cyberbullyingrelated studies.