A manipulação de imagens íntimas de menores de idade através da inteligência artificial e a correlação com o bullying e cyberbullying

• Autores: Mônica Mota Tassigny, Mariana Gomes de Barros Fernandes Távora, Karen Alves Dantas
• Localización: FutureLaw. Vol. V. / coord. por Fábio da Silva Veiga, Paulo de Brito, 2024, ISBN 978-989-35571-4-3, págs. 308-316
• Idioma: portugués
• Títulos paralelos:
  • Manipulation of Minors' Intimate Images through Artificial Intelligence and Its Correlation with Bullying and Cyberbullying
• Enlaces
  • Texto completo
• Resumen
  • English

    In the context of the digitalized society, the dissemination of advanced artificial intelligence tools has generated growing concern: the use of these technologies to create images, videos, and audios related to child pornography. The practice is facilitated by the use of specific applications for this purpose, and when used by young individuals in the school environment, it fosters the occurrence of both bullying and cyberbullying. These phenomena are characterized by systematic intimidation perpetrated either analogically or through online platforms, aimed at undermining the psychosocial integrity of the victims, presenting complex challenges for the development of youths. This article proposes to explore the implications of this scenario, focusing on theimpacts on the fundamental rights of children and adolescents, analyzing existing legislation and projects that could contribute to victim preservation. To this end, the following question is posed: How does current regulation address the challenges associated with the manipulation of minors' intimate images through artificial intelligence, and how do these challenges relate to the increase in bullying and cyberbullying?

  • português

    No contexto da sociedade digitalizada, a disseminação de ferramentas avançadas de inteligência artificial têm gerado uma preocupação crescente: o uso dessas tecnologias para criar imagens, vídeos e áudios relacionados à pornografia infantil. A prática é facilitada pelo uso de aplicativos para esse fim e quando utilizados pelos próprios jovens no ambiente escolar, fomenta a ocorrência do bullying e do cyberbullying. Estes fenômenos são caracterizados pela intimidação sistemática perpetrada analogicamente ou via plataformas online, de forma a atacar a integridade psicossocial das vítimas, apresentando desafios complexos para o desenvolvimento de jovens. Este artigo propõe explorar as implicações desse cenário, com foco nosimpactos no direito fundamental à privacidade e à intimidadede crianças e adolescentes, analisando a legislação existente e projetos de lei que podem contribuir para a preservação da vítima. Com esse fim, indaga-se: Como a regulação atual enfrenta os desafios associados à manipulação de imagens íntimas de menores de idade por meio de inteligência artificial, e de que maneira esses desafios se relacionam com o aumento do bullying e cyberbullying? A pesquisa se baseia em revisão bibliográfica e documental para abordar o tema de maneira abrangente. Os resultados destacam a urgência de regulamentação do uso de inteligência artificial em casos que envolvem conteúdo prejudicial à integridade de criançase adolescentes, visando proteger esses grupos vulneráveis.