Adversarial saldırıların belki de en etkili türlerinden birinin prompt injection (komut enjeksiyonu) olduğunu söylemek mümkün. Siber saldırganlar, yapay zekâ asistanlarının incelediği internet sayfalarına, e-postalara veya belgelere kötü niyetli gizli talimatlar yerleştirebiliyor. Model de bu içerikleri işlerken kullanıcının isteği yerine saldırganın yönlendirmelerini takip edebiliyor.
Google’ın 23 Nisan 2026 tarihinde yayımladığı araştırma, internet ortamında yapay zekâ sistemlerini hedefleyen dolaylı komut enjeksiyonu girişimlerini gözler önüne sermişti. Kamuya açık web arşivinde inceleme yapan araştırmacılar, veri sızdırmayı ve sistemlere zarar vermeyi amaçlayan çeşitli talimatlar tespit etti.
Çalışmada, kötü amaçlı olarak sınıflandırılan bu girişimlerin tespitinde Kasım 2025 ile Şubat 2026 arasında yüzde 32 göreli artış gözlemlendiği kaydedildi. Öte yandan şirket, gelişmiş saldırıların henüz geniş ölçekte uygulandığına dair güçlü bir kanıt bulunmadığını da bildirmişti.
Hangi Sistemler Risk Altında?
Özellikle e-postalara, belgelere ve kurumsal veri tabanlarına erişebilen yapay zekâ asistanları bu saldırıların birincil hedefi konumunda bulunuyor. Örneğin içine gizli talimatlar yerleştirilmiş bir e-posta, asistanın hassas şirket verilerini yetkisiz adreslere aktarmasına yol açabiliyor.
Söz konusu riski azaltmak için şirketlerin yapay zekâ yetkilerini sınırlandırması, kritik işlemlerde insan onayı mekanizması kurması ve dış kaynaklı verileri kontrolsüz bir şekilde güvenilir kabul etmemesi gerekiyor. Çünkü yapay zekâ yarışında artık yalnızca modellerin hızı ve yetenekleri değil, bu tür manipülasyonlara karşı sundukları güvenlik ve veri mahremiyeti de belirleyici rol oynayacak.
Bireysel Olarak Ne Yapılabilir?
Bireysel kullanıcıların ise yapay zekâ araçlarına e-posta veya bulut depolama gibi hassas hesaplarının erişim iznini verirken seçici davranması ve asistanların kendileri adına gerçekleştireceği önemli işlemleri mutlaka onay süzgecinden geçirmesi gerekiyor. Dijital dünyada güvenli kalmanın yolu, yapay zekâya sınırsız yetki vermekten değil, kontrolü elden bırakmamaktan geçiyor.
