OpenAI'ın ChatGPT için planladığı yeni model Astra üzerindeki çalışmalarının bir kısmını güvenlik endişeleri nedeniyle askıya aldığını duyurdu. Modelin otonom kodlama ve siber güvenlik alanlarında ulaştığı yüksek performansın, mevcut durumuyla ciddi tehlike oluşturabileceği değerlendirildi.
Astra Modeli Neden Durduruldu?
Astra olarak adlandırılan yeni modelin özellikle otonom kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiği bildirildi. Bununla birlikte yapılan testlerde modelin mevcut haliyle fazla güçlü olabileceğine yönelik sonuçlar ortaya çıktı.
Bu nedenle Astra'nın kamuoyuna sunulmasının şu anlık güvenli olmadığı belirtildi. OpenAI, modelin kullanıma sunulabilmesi için ek güvenlik önlemlerinin uygulanması gerektiğini aktarıldı.
Astra'nın, Hugging Face platformuna ilişkin yapıldığı belirtilen siber saldırıda yer almadığı ifade edildi. Buna karşın modelin testlerde gösterdiği performans, güvenlik kontrollerinin artırılmasına neden oldu.
Yapay Zekada Kritik Risk Eşiği Gündemde
Siber güvenlik uzmanları ve yapay zeka şirketleri, gelişmiş yapay zeka araçlarının yazılımlardaki güvenlik sorunlarını belirlemek ve gidermek için kullanılabileceğine dikkat çekiyor. Ek olarak aynı yeteneklerin insan müdahalesine gerek duymayan otonom siber saldırılarda kullanılabileceği ifade ediliyor.
OpenAI söz konusu problemleri yönetmek için 2023 yılının sonunda Hazırlık Çerçevesi olarak adlandırılan bir güvenlik yapısı oluşturmuştu. Bu yapı yapay zeka modellerinin yeteneklerindeki gelişmeleri belirlemeyi ve sistemlerin güvenli sınırlar içerisinde tutulmasını hedefliyor.
