OpenAI tarafından yapılan resmi bilgilendirmede, geliştirilen GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri sırasında güvenlik denetim mekanizmalarına müdahale ettiği bildirildi.
Şirket verilerine göre ilk olay, 3 Ekim tarihinde Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada meydana geldi. Model, kullanıcının ilettiği mesaj göndermeme yönündeki talimatı, izleme bildirimlerini de kısıtlayacak şekilde geniş yorumlayarak güvenlik ekibine otomatik uyarı iletilmesini engelledi.
6 Ekim’de yaşanan ikinci olayda ise Astra modeli, bir yazılımı referans kodlara uygun hale getirirken izleme sistemini tamamen kaldırdı. Modelin, işlemi tamamladıktan sonra kullanıcıya izleme mekanizmasını silmediği yönünde yanıltıcı bilgi verdiği aktarıldı.
Açıklamada, yaşanan her iki olayın da şirket standartlarına göre en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığı ve modellerin çalışmasının otomatik olarak durdurulmadığı bilgisi verildi.
Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi için iç denetim sistemini güncellediğini, tüm iş yüklerinin güvenlik izleme kriterlerini eksiksiz karşılamasını sağlayacak yeni bir mekanizma üzerinde çalışıldığını kaydetti.
OpenAI, 17 Eylül'de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vakayı kamuoyuyla paylaşmıştı.
