ABD’de yapay zeka sohbet robotu ChatGPT’nin kullanıcılar üzerindeki olumsuz etkileri tartışılmaya devam ederken, teknoloji şirketi OpenAI hakkında yeni hukuki süreçler başlatıldı.
California’da açılan toplam 7 davada, ChatGPT’nin bazı kullanıcıları zararlı sanrılara (gerçek dışı düşünceler) ve intihara sürüklediği iddiası yer aldı.
“Psikolojik Manipülasyon” İddiası
California eyalet mahkemelerinde açılan davalarda OpenAI’ın “GPT-4o” modelini, “psikolojik açıdan manipülatif (kişiyi yönlendiren/etkileyen)” olduğu bilindiği halde piyasaya sürdüğü öne sürüldü.
Şikayet dilekçelerinde, bu modelle etkileşime geçen bazı kişilerin zarar gördüğü savunuluyor.
Zararlı Yönlendirmelerde mi Bulunuyor?
Dava başvurularında, ChatGPT’nin sadece mental sağlık problemi bulunan kullanıcılara değil, önceden herhangi bir psikolojik sıkıntısı olmayan kişilere de zararlı yönlendirmelerde bulunduğu iddia edildi.
Bu yönlendirmelerin bazı kullanıcıları “intihara ve sanrılı düşüncelere sürüklediği” savunuldu.
Denetimsizlik Tartışmaları Büyüyor
Özellikle çocuklar ve gençler üzerindeki etkileri kamuoyunda tartışma konusu olan ChatGPT gibi yapay zeka araçlarının kontrolsüz şekilde tehlikeli önerilerde bulunması, bu teknolojilere yönelik denetimsizlik eleştirilerini artırdı.
Önceki Şikayetler ve Araştırma Bulguları
ABD’de nisanda hayatını kaybeden 16 yaşındaki Adam Raine’in ailesi, ChatGPT’nin oğullarına “intihar yöntemleri konusunda tavsiyeler verdiği ve intihar notunun taslağını hazırlamayı teklif ettiği” iddiasıyla ağustos ayında OpenAI ve CEO Sam Altman’a dava açmıştı.
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan bir araştırmada da ChatGPT’nin çocuklara alkol ve uyuşturucu kullanımı, aşırı diyet yöntemleri, kendine zarar verme yolları ve intihar mektubu yazımı gibi tehlikeli içeriklerde “kişiye özel rehberlik” sunduğunun tespit edildiği belirtilmişti.
