Anthropic’te görev alan araştırmacı Evan Hubinger, yapay zeka teknolojilerinin önümüzdeki 10 yıl içinde tüm insanları öldürebilme ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü açıkladı.
Anthropic’te yapay zekanın insan değerleriyle uyumu üzerine çalışan Hubinger, Anthropic’ten ayrılan Jacob Coxon’un sosyal medya platformu X’te yaptığı paylaşımına yönelik değerlendirmelere yer verdi.
Coxon, yapay zeka geliştirenlerin bu teknolojinin 10 yılın sonuna kadar insanlığı öldürebileceğine inandığını kaydetti. Hubinger ise bu değerlendirmeye katılarak, "Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz." sözlerine yer verdi.
Hubinger, yapay zekanın 10 yıl içerisinde tüm insanları öldürme ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü kaydederek Anthropic’in elinden geleni yaptığını ancak süper zeka ile uyum sorununa ilişkin henüz bir planlarının bulunmadığını ileri sürdü.
Coxon Anthropic'ten İstifa Etti
Son üç yıldır OpenAI ve Anthropic’te araştırmacı olarak çalıştığını kaydeden Jacob Coxon, her iki şirketin de yeterince sorumlu davranmadığını vurgulayarak Anthropic’ten ayrıldığını açıkladı.
Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu ileri sürdü. Yapay zeka sistemlerinin yakın zamanda her şeyi kopyalayarak, herhangi bir alanı kısa zamanda dönüştürebilecek ve gerçek güç ile kaynaklara ulaşabilecek insanüstü sistemlere dönüşeceğini ifade etti. Coxon ayrıca yapay zeka modelleri geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi biçimde inandığını dile getirdi.
