La línea roja de la Inteligencia artificial emocional: el caso de Character AI

• Autores: Dolors Reig
• Localización: Cuadernos de pedagogía, ISSN-e 2386-6322, ISSN 0210-0630, Nº 559, 2024
• Idioma: español
• Texto completo no disponible (Saber más ...)
• Resumen
  • español

    La promoción de aplicaciones para recrear relaciones con personajes de IA, ante la tragedia de Sewell Setzer, quien se suicidó tras una relación virtual, resalta los peligros de la «inteligencia artificial emocional». Las plataformas de IA carecen de empatía genuina, lo que puede causar dependencia emocional y daños. La búsqueda de compañía en tecnologías en desarrollo puede ser una trampa peligrosa, y necesitamos urgentemente abordar estos problemas para proteger la salud mental de los jóvenes.

  • English

    The promotion of applications to recreate relationships with AI characters, in light of the tragedy of Sewell Setzer, who committed suicide after a virtual relationship, highlights the dangers of «emotional artificial intelligence». AI platforms lack genuine empathy, which can lead to emotional dependency and harm. Seeking companionship through developing technologies can be a dangerous trap, and we urgently need to address these issues to protect the mental health of young people.