Resumen de La línea roja de la Inteligencia artificial emocional: el caso de Character AI
- español
La promoción de aplicaciones para recrear relaciones con personajes de IA, ante la tragedia de Sewell Setzer, quien se suicidó tras una relación virtual, resalta los peligros de la «inteligencia artificial emocional». Las plataformas de IA carecen de empatía genuina, lo que puede causar dependencia emocional y daños. La búsqueda de compañía en tecnologías en desarrollo puede ser una trampa peligrosa, y necesitamos urgentemente abordar estos problemas para proteger la salud mental de los jóvenes.
- English
The promotion of applications to recreate relationships with AI characters, in light of the tragedy of Sewell Setzer, who committed suicide after a virtual relationship, highlights the dangers of «emotional artificial intelligence». AI platforms lack genuine empathy, which can lead to emotional dependency and harm. Seeking companionship through developing technologies can be a dangerous trap, and we urgently need to address these issues to protect the mental health of young people.
