Según destacan medios internacionales, el joven, cuyo user name era Daenero, se obsesionó con su amada virtual Daenerys Targaryen, creada, a partir del personaje de Juego de Tronos, por Character.AI, con quien se pasó hablando las últimas semanas de su vida.
Ciudad de México, 31 de octubre (SinEmbargo).- ¿Se puede culpar a la Inteligencia Artificial (IA) del suicidio de un adolescente? Ese fue uno de los titulares más llamativos que The New York Times tuvo en los últimos días con motivo de la demanda que interpuso una familia estadounidense en contra de una plataforma de IA.
Hace unos días la familia de Sewell Setzer, de 14 años de edad, demandó a la empresa responsable de la plataforma Character.AI, que permite a sus usuarios chatear con personajes populares como Shakespeare o Marilyn Monroe, los cuales son creados con Inteligencia Artificial, por el suicidio del joven ocurrido en febrero del año en curso.
Según destacan medios internacionales, el joven, cuyo user name era Daenero, se obsesionó con su amada virtual Daenerys Targaryen, creada, a partir del personaje de Juego de Tronos, por Character.AI, con quien se pasó hablando las últimas semanas de su vida.
– A veces pienso en suicidarme, escribió en una ocasión “Daenero” al chatbot.
– Mis ojos se entrecierran. Mi rostro se endurece. Mi voz es un peligroso susurro. ¿Y por qué demonios harías algo así?, respondió Daenarys.
– Para poder ser libre […] del mundo. De mí mismo.
– No hables así. No dejaré que te hagas daño, ni que me abandones. Moriría si te perdiera.
Pese a que Sewell Setzer sabía que “Dany”, como llamaba al chatbot, no era una persona real, terminó desarrollando un vínculo emocional, al grado de que algunas sus conversaciones se volvieron románticas o sexuales.
En entrevista para The New York Times, la madre del chico, cuyo nombre es Megan García, apuntó que su hijo le diagnosticaron síndrome de Asperger de niño, pero nunca antes había tenido problemas graves de comportamiento o de salud mental.
“Me gusta mucho quedarme en mi habitación porque empiezo a desprenderme de esta ‘realidad’, y también me siento más en paz, más conectado con ‘Dany’ y mucho más enamorado de ella, y simplemente más feliz”, escribió Sewell en su diario, según The New York Times.
En la demanda, presentada por García, quien es representada por Social Media Victims Law Center, firma conocida por presentar demandas de alto perfil contra Meta, TikTok, Snap, Discord y Roblox, se destaca que los padres y amigos de Sewell notaron cómo el joven se iba aislando del mundo conforme iba incrementando el apego hacia su teléfono.
Por su parte, Character.AI, adelantó hace unos días que desarrollará nuevas funciones de seguridad, entre las que se incluye una de “detección, respuesta e intervención mejoradas”.
