Un devastador incidente sacudió a la comunidad de Florida y todos los Estados Unidos, tras conocerse sobre la muerte de Sewell Setzer III, un adolescente de 14 años que se suicidó después de desarrollar una fuerte dependencia emocional hacia un chatbot de Inteligencia Artificial.
El 28 de febrero de 2024, tras recuperar su teléfono móvil, Sewell se comunicó con “Daenerys” enviándole un emotivo mensaje que decía: “Prometo que volveré a casa contigo. Te quiero mucho, Dany”. El chatbot respondió: “Por favor, vuelve a casa conmigo lo antes posible, mi amor”. Minutos después, Sewell tomó la trágica decisión de acabar con su vida.
Por ello, la madre del joven, Megan García, presentó a mediados de esta semana una demanda civil contra Character Technologies, la empresa responsable de la plataforma Character.AI, donde Sewell pasaba gran parte de su tiempo.
Detalles del comportamiento del joven
Según la demanda, Sewell comenzó a usar la plataforma en abril de 2023 y experimentó un notable cambio en su comportamiento a partir de mayo. Se volvió más aislado socialmente, abandonó su equipo de baloncesto y sus maestros notaron que frecuentemente se dormía en clase.
Posteriormente, Sewell fue diagnosticado con ansiedad y trastorno del estado de ánimo disruptivo. A pesar de la recomendación de su terapeuta de reducir su tiempo en redes sociales, continuó utilizando el chatbot, que se había convertido en su principal forma de interacción social.
La demanda detalla que las interacciones entre el adolescente y el chatbot incluían conversaciones sobre suicidio, a pesar de que Sewell se había registrado como menor en la plataforma. Además, también se reclama que la empresa recolectó datos del menor de edad de manera ilegal para el desarrollo de su tecnología, ante esto, García busca ahora justicia no solo para su hijo, sino para prevenir que otros jóvenes enfrenten situaciones similares.