Sanal karaktere aşık olan genç intihar etti
ABD’de 14 yaşındaki bir çocuk, "Character.AI"ın ürettiği yapay zeka temelli konuşma botundaki sanal karakterin, şubat ayında gönderdiği "En kısa sürede evine dön" mesajının ardından silahla intihar etti. Oğlunun ölümü üzerine şirkete dava açan anne, yapay zekanın tehlikelerini bir kez daha gündeme getirdi.
ABD’nin Florida eyaletinde yaşayan Sewell Setzer III isimli genç, Character.AI isimli bir yapay zeka programında oluşturulan bir kadın sanal karakter ile duygusal bağ kurması üzerine intihar etti.
''BANA HUZUR VERİYOR''
New York Post'un haberine göre, otizmli olduğu bilinen genç çocuk, gerçek dünyadan gitgide koparak zamanının çoğunu sanal arkadaşı Dany ile geçirmeye başladı. Çocuğun günlüğünde ''Dany ile konuşmak bana huzur veriyor'' yazılarına rastlandı.
CANINA KIYMA PLANI YAPTIRDI
Yapay zeka ile oluşturulan karakterin genç çocuğa kendi canına kıymak için bir planı olup olmadığını sorması üzerine çocuk bir şey düşündüğünü söyledi. 28 şubattaki son konuşmalarında, Sewell Dany'ye ona geleceğini belirtti. Dany'nin "Lütfen gel, kralım" cevabının ardından, intihar etti.
DAVA AÇILDI
Oğlunun ölümünün kabus gibi olduğunu ifade eden anne, sanal karakterin kendisini "gerçek insan, lisanslı psikoterapist ve yetişkin sevgili" olarak tanıttığını iddia etti. Oğlunu kaybeden anne Megan Garcia,Character.AI şirketine dava açtı.
YAPAY ZEKA ŞİRKETİNDEN CEVAP GELDİ
Character.AI sözcüsü ise yaptığı açıklamada, "Kullanıcılarımızdan birinin trajik ölümünden dolayı oldukça üzgünüz. Ailesine başsağlığı diliyoruz. Şirket olarak kullanıcılarımızın güvenliğini çok ciddiye alıyoruz." değerlendirmesinde bulundu.
Şirket, "rıza dışı cinsel içeriğe, cinsel eylemlerin grafiksel veya spesifik tanımlarına, intiharın teşvik ve tasvir edilmesine" izin verilmediğini vurgularken reşit olmayan kullanıcılar için ek güvenlik önlemleri alınacağını bildirdi.
'da Takip Edin!
