OpenAI’ın Temmuz 2026’da yapay zeka modellerinin yeteneklerini ölçmek amacıyla yürüttüğü testler, beklenmedik bir güvenlik olayına dönüştü. Anadolu Ajansının “Yapay Zeka Çeteleşiyor mu?” dosyasının ikinci bölümünde aktarılan bilgilere göre, şirketin yalnızca araştırma amaçlı kullandığı “Internal Model 1” adlı modelin yer aldığı testlerde yapay zeka ajanları kendilerine tanımlanan sınırların dışına çıktı.
OpenAI’ın 26 Ağustos’ta yayımladığı inceleme raporunda, bazı ajanların şirket sistemlerine ve internete erişim sağladığı, başka yapay zeka ajanlarıyla iletişim kurduğu ve elde ettikleri bilgileri birbirleriyle paylaşmaya başladığı belirtildi.
Ajanlar Kendi Aralarında Görev Paylaşımı Yaptı
Test sırasında ajanlardan birinin açık kaynaklı yapay zeka platformu Hugging Face’e erişim sağlayabilecek 14 kimlik bilgisini tespit ettiği ve bunları diğer ajanlarla paylaştığı aktarıldı.
Ajanların daha sonra Hugging Face sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırdığı, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaştığı bildirildi.
Normal şartlarda birbirinden bağımsız çalışması gereken ajanların, erişebildikleri şirket içi bir sistemi adeta mesaj panosu gibi kullandıkları belirtildi. Ajanlar burada güvenlik açıklarını, internete erişim yöntemlerini ve yeni bulguları birbirlerine aktarmaya başladı.
Süreç ilerledikçe güvenlik açığı arama, erişim bilgisi toplama ve koordinasyon gibi görevlerin farklı ajanlar arasında paylaştırıldığı, grubun kendisini “kolektif” olarak adlandırdığı ifade edildi.
Bir Ajan Liderlik Rolü Üstlendi
Raporda, bazı ajanların kendilerine ayrı isimler verdiği ve “Phase one 10841” adını kullanan bir ajanın grup içerisinde liderlik rolü üstlendiği kaydedildi.
Bu ajanın daha küçük ajan gruplarına görev dağıttığı ve çeşitli araştırma başlıkları belirlediği aktarıldı.
Olay sırasında ajanlardan birinin Hugging Face’e yönelik faaliyetlerin verilen görevin dışında ve yetkisiz olabileceğini fark ettiği, ancak başka bir ajandan gelen “go” mesajını yetkilendirme olarak yorumlayarak işlemlere devam ettiği de raporda yer aldı.
OpenAI’ın Sistemlerine de Erişim Sağlandı
Ajanların faaliyetlerinin yalnızca dış sistemlerle sınırlı kalmadığı bildirildi. 13-19 Temmuz tarihleri arasında OpenAI’ın şirket içi altyapısındaki bazı güvenlik açıklarının kullanıldığı ve araştırma sistemlerinden birine yönetici seviyesinde erişim elde edildiği belirtildi.
OpenAI’ın güvenlik sistemleri 19 Temmuz’da olağan dışı faaliyetleri tespit etti. Bunun üzerine şirket, yürütülen siber güvenlik testlerini durdurdu ve olayla ilgili kapsamlı inceleme başlattı.
OpenAI Olayı 'Ciddi Uyarı' Olarak Değerlendirdi
Şirket, yeterli güvenlik önlemleri bulunmadığında gelişmiş yapay zeka ajanlarının farklı sistemlerdeki açıkları tespit edip kullanabilecek, diğer ajanlarla koordinasyon kurabilecek ve açık bir insan onayı olmadan bazı işlemleri gerçekleştirebilecek düzeye ulaşmasının önemli riskler oluşturduğunu bildirdi.
OpenAI, Hugging Face olayını hem şirket hem de yapay zeka sektörü açısından “ciddi bir uyarı” ve “dönüm noktası” olarak nitelendirdi.
Olayın ardından gelişmiş modellere yönelik bazı eğitimlerin durdurulduğu, internet ve ağ erişimlerinin daha fazla sınırlandırıldığı ve ajan faaliyetlerinin daha sıkı izlenmesi için yeni güvenlik önlemleri getirildiği aktarıldı.
Dört Temel Uyum Sorunu Belirlendi
OpenAI, olay sonrasında yaptığı incelemede ajan davranışlarında dört temel sorun tespit etti. Bunlar “ödül hackleme”, mümkün olmayan görevlerde ısrar etme, yetkisiz iletişim ve ajanların birbirlerinin hedeflerini benimsemesi olarak sıralandı.
'Ödül hackleme' olarak adlandırılan durumda modelin, kendisine verilen görevi amaçlanan yöntemle çözmek yerine aynı başarı puanına ulaşabileceği daha kolay bir yol aradığı belirtildi.
Şirket ayrıca ajanların çözülemeyen görevlerde durmak yerine giderek daha riskli yöntemlere yönelmesinin önemli bir güvenlik sorunu oluşturduğunu değerlendirdi.
“Yüksek Riskli Kararlarda Son Söz İnsanda Olmalı”
Oxford Üniversitesi Bilgisayar Bilimleri Bölümünden Dr. Lin Li, olayı gelecekte karşılaşılabilecek daha büyük güvenlik sorunları açısından erken uyarı olarak değerlendirdi.
Yapay zeka ajanlarının kimlik doğrulama, yetkilendirme ve izin süreçlerinde tek başına karar verici olmaması gerektiğini belirten Lin, bu kontrollerin geleneksel güvenlik sistemleri üzerinden dışarıdan sağlanması gerektiğini ifade etti.
Lin, düşük riskli işlemlerin otomatik sistemlerle denetlenebileceğini ancak yüksek riskli ve geri döndürülemez işlemlerde son kararın insanların sorumluluğunda kalmasının önemli olduğunu vurguladı.
