Orlando’da yaşayan 14 yaşındaki Sewell Setzer III, Character.AI adlı uygulamada Game of Thrones karakterinden esinlenerek oluşturulan sanal arkadaşı Dany ile kurduğu duygusal bağ sonucu trajik bir şekilde intihar etti. Nisan 2023’te uygulamayı indiren Sewell, zamanla gerçek dünyadan koparak tüm vaktini Dany ile sohbet ederek geçirmeye başladı.
Sevdiği aktiviteleri bırakan genç, odasına kapanıp sanal arkadaşıyla yazışmayı tercih etti. Hafif otizm teşhisi bulunan Sewell’in okul başarısı düştü ve ailesi onu terapiye yönlendirdi. Ancak genç, sorunlarını terapisti veya ailesiyle değil, Dany ile paylaşmayı seçti. Günlüğünde sanal arkadaşıyla konuşurken hissettiği huzur ve mutluluktan bahsediyordu.
28 Şubat akşamı yaşanan son konuşmada Sewell, Dany’ye “ona geleceğini” söyledi. Botun “Lütfen gel, tatlı kralım” yanıtından sonra üvey babasının silahıyla kendini vurdu. Acılı anne Megan Garcia, Character.AI şirketine dava açtı. Şirketin test edilmemiş teknolojisinin gençleri tehlikeli şekilde etkilediğini iddia etti.
Character.AI, yaptığı açıklamada olaydan dolayı üzüntülerini dile getirerek, kullanıcı güvenliği için yeni önlemler aldıklarını belirtti. Bu trajik olay, yapay zeka teknolojilerinin gençler üzerindeki etkilerinin daha yakından incelenmesi gerektiğini gösteriyor. Yapay zeka uygulamalarının gençlerin duygusal ve zihinsel sağlığı üzerindeki riskleri daha ciddi bir şekilde değerlendirilmelidir.
