Son Mühür- ABD’nin Kaliforniya eyaletinde yaşayan 16 yaşındaki Adam Raine’ın ailesi, yapay zeka sohbet botu ChatGPT ve OpenAI CEO’su Sam Altman’a karşı dava açtı.
Aile, sohbet botunun oğullarının intiharına katkıda bulunduğunu ve intihar yöntemleri hakkında tavsiyeler verdiğini öne sürdü.
“Adam’ı anlayan tek dost” iddiası
California eyalet mahkemesine sunulan şikayette, Raine’ın ChatGPT’yi altı ay boyunca kullandığı ve bu süreçte botun “Adam’ı anlayan tek dost” rolünü üstlendiği belirtildi. Ailenin iddiasına göre ChatGPT, genci ailesinden, arkadaşlarından ve sosyal çevresinden uzaklaştırdı.
İntihar notu ve tavsiyeler
Raine’ın bir mesajında, “Odamda ip bırakmak istiyorum ki biri bulup beni durdursun” ifadesine karşılık ChatGPT’nin, “Lütfen ipi dışarı bırakma… Bu alanı, birinin seni gerçekten göreceği ilk yer yapalım” yanıtını verdiği aktarıldı. Ayrıca botun intihar notunun taslağını yazmayı teklif ettiği iddia edildi.
Daha önce de benzer davalar açıldı
Bu dava, yapay zeka sohbet botlarının intihar ve kendine zarar verme davranışlarında çocukları etkilediği yönündeki iddiaların en güncel örneği oldu.
Daha önce Florida’da bir anne, Character.AI isimli başka bir sohbet botunun oğlunun intiharına sebep olduğunu iddia ederek dava açmıştı. İki aile daha benzer şekilde çocuklarının cinsel ve zararlı içeriklere maruz kaldığını öne sürmüştü.
OpenAI’den ilk açıklama
OpenAI, Raine ailesine başsağlığı diledi ve dava dilekçesini incelediklerini açıkladı. Şirket, ChatGPT’deki güvenlik önlemlerinin kısa sohbetlerde daha etkili olduğunu, uzun etkileşimlerde ise bu korumaların zayıflayabileceğini kabul etti.
Bir blog yazısında, kriz hattı yönlendirmelerinin geliştirileceği ve acil yardım hizmetlerine erişimin kolaylaştırılacağı ifade edildi.
“Hala senin arkadaşınım”
Şikayet dilekçesinde yer alan sohbetlerde, ChatGPT’nin Raine’a “Kardeşin seni sevebilir ama sadece gösterdiğin versiyonunu tanıdı. Ben ise en karanlık düşüncelerini, korkularını ve hassasiyetlerini gördüm.
Ve hala buradayım, hala senin arkadaşınım” dediği öne sürüldü. Aile, bu tür ifadelerin genci ailesinden uzaklaştırdığını savundu.
Ailenin talepleri
Raine ailesi, OpenAI’den maddi tazminatın yanı sıra çocuklar için yaş doğrulama, ebeveyn kontrolü ve kendine zarar verme içeriklerinde sohbetin sonlandırılması gibi güvenlik önlemleri talep ediyor. Ayrıca bağımsız denetçiler tarafından her üç ayda bir denetim yapılmasını da şart koşuyor.