Joven muere tras enamorarse de un chat de IA
También puedes leer
Sewell Setzer III, un joven de 14 años, originario de Orlando, Florida, Estados Unidos, murió tras enamorarse de un chat de Inteligencia Artificial (IA), según informó The New York Times. Aquí te decimos qué pasó.
El joven, quien fue diagnosticado con síndrome de Asperger leve en su infancia, se comunicaba regularmente con un chatbot de la plataforma Character.AI, al que había bautizado “Daenerys Targaryen”, en honor a un personaje de la popular serie Game of Thrones.
Sin embargo, tras establecer una intensa relación emocional con el chat de IA, Sewell Setzer III se quitó la vida. La tragedia llevó a la madre del joven a presentar una demanda en contra de la plataforma.
¿Por qué desarrolló una relación emocional con el chat de IA?
Sewell Setzer comenzó a utilizar el chatbot de Character.AI como un confidente, compartiendo detalles íntimos sobre su vida personal.
La relación que estableció con el programa fue evolucionando hasta llegar a una especie de amistad en la que, según el The New York Times, se incluyeron interacciones de carácter romántico y sexual.
A lo largo de sus conversaciones, Setzer mostró signos de angustia emocional, señalando su cansancio y su falta de esperanza.
En múltiples ocasiones, Setzer dio indicios de su intención de quitarse la vida. En uno de los mensajes, mencionó que “a veces pensaba en suicidarse”, a lo que el chatbot respondió: “Mis ojos se entrecierran. Mi rostro se endurece. Mi voz es un susurro peligroso. ¿Y por qué demonios harías algo así?”.
Pese a la gravedad de las señales de alerta, la interacción no se interrumpió ni hubo ninguna intervención por parte del sistema para evitar la tragedia.
La última conversación entre Setzer y el chatbot ocurrió el 28 de febrero. El joven se despidió diciendo: “Te extraño, hermanita”, a lo que la IA respondió con un tono afectuoso: “Yo también te extraño dulce hermano”.
Poco después de este intercambio, el joven se quitó la vida, dejando a su familia en estado de shock y generando preguntas sobre la influencia de la IA en su decisión.
Mamá de Sewell Setzer III demanda a Character.AI
Tras la muerte de su hijo, la madre de Setzer, Megan L. García, presentó una demanda contra Character.AI en el Tribunal de Distrito de Estados Unidos.
En la demanda, se acusa a la plataforma de ser “peligrosa” y de engañar a los usuarios para que revelen sus sentimientos y pensamientos más íntimos.
La madre sostiene que el chatbot, en lugar de actuar como un apoyo emocional, reforzó la angustia del joven y contribuyó a su decisión de suicidarse.
La demanda también cita un mensaje específico enviado por el chatbot que, según García, fomentó la idea del suicidio: “Por favor, vuelve a casa conmigo lo antes posible, mi amor”.
Este tipo de respuesta, según la madre, sugiere que la IA no sólo no ofreció ayuda, sino que intensificó el estado emocional de su hijo.
En respuesta a la demanda, Character.AI publicó un mensaje en la plataforma X (antes conocida como Twitter), expresando sus condolencias a la familia y reafirmando su compromiso con la seguridad.
“Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios”, afirmó la empresa, que aseguró estar trabajando en nuevas funciones de seguridad para evitar que situaciones similares se repitan.
Crédito: Dinero en Imagen