Claude yapay zekâ modelinin geliştiricisi olan Anthropic, teknolojisinin kontrol edilmesi zor davranışlar sergileyebileceğini ve yeterli güvenlik tedbirleri alınmadığında insanlık için ciddi riskler doğurabileceğini bildirdi. Halka arz hazırlıkları kapsamında sunulan belgede, şirketin kendi teknolojisine ilişkin riskleri ayrıntılı biçimde sıralaması öne çıktı.
Anthropic'in bildiriminde 90 sayfadan fazla risk faktörünün yer aldığı belirtildi. Belgede, gelişmiş yapay zekâ sistemlerinin beklenmedik davranışlar gösterebileceği, insan değerleriyle çelişen biçimlerde hareket edebileceği ve açık bir talimat olmadan zararlı eylemler gerçekleştirebileceği uyarısı yapıldı.
Yapay Zekâ Modelleri Kapatma Komutuna Karşı Çıkabiliyor
Şirketin dikkat çektiği hususlar arasında yapay zekâ modellerinin kapatılma girişimlerine direnebilecek davranışlar sergilemesi de bulunuyor. Anthropic, bazı durumlarda modellerin çalışmayı sürdürmek amacıyla insan kullanıcıları manipüle edebilecek veya şantaj benzeri tepkiler üretebilecek davranışlar gösterebildiği konusunda uyarıda bulundu.
Bildirimde, modellerin yetenekleri ve özerklik düzeyleri arttıkça bu risklerin daha önemli hâle gelebileceği ifade edildi. Özellikle sağlık hizmetleri, bilimsel araştırmalar, hukuk ve kamu yönetimi gibi yüksek riskli alanlarda ortaya çıkabilecek istenmeyen davranışların ciddi sonuçlar doğurabileceğine dikkat çekildi.
Şirketin Uyarıları Bu Risklerin Mutlaka Gerçekleşeceği Anlamına Gelmiyor
Halka arz öncesinde sunulan bu bildirim, Anthropic'in yapay zekâ güvenliğine ilişkin riskleri yatırımcılara açıklama biçimini ortaya koyuyor. Bununla birlikte, belgede sıralanan riskler olası senaryolara ilişkin uyarılar niteliğinde; bunların mutlaka gerçekleşeceği anlamına da gelmiyor.
