Anthropic, 2 Temmuz 2026'da yayımladığı bir blog yazısıyla, yeniden dağıtıma soktuğu Claude Fable 5 modelinin siber güvenlik önlemlerine ve geliştirdiği bir AI jailbreak şiddet çerçevesine dair detayları paylaştı. Fable 5, halihazırda tüm kullanıcılar için küresel çapta erişime açılmış durumda.
Fable 5'in siber güvenlik sınıflandırıcıları
Anthropic, siber güvenlik alanının 'çift kullanımlı' doğası nedeniyle tüm siber faaliyetleri engellemek yerine, modelin güvenlik sınıflandırıcılarını dört kategoriye ayırdı: Yasaklı kullanım, yüksek riskli çift kullanım, düşük riskli çift kullanım ve zararsız kullanım. Sınıflandırıcılar, her bir kategorideki istemleri tespit edip engellemek veya izin vermek üzere eğitildi.
Yasaklı kullanım kategorisi, fidye yazılımı, siber-fiziksel sabotaj, savunma atlatma, komuta ve kontrol (C2), veri sızdırma, kötü amaçlı yazılım geliştirme ve teslimi ile internet omurga saldırıları gibi yüksek zarar potansiyeli olan ve savunma amaçlı kullanımı sınırlı faaliyetleri kapsıyor. Bu kategorideki tüm istemlerin engellenmesi hedefleniyor.
Yüksek riskli çift kullanım kategorisi, sızma testi, ayrıcalık yükseltme, yanal hareket, exploit geliştirme gibi siber güvenlik profesyonellerinin günlük işlerinin parçası olan ancak kötüye kullanım potansiyeli yüksek faaliyetleri içeriyor. Anthropic, bu tür eylemleri, daha iyi erişim kontrolleri geliştirilene kadar engellemeyi planlıyor.
Düşük riskli çift kullanım kategorisi, açık kaynak istihbaratı, diğer modellerin yapabildiği güvenlik açığı tespiti ve SSL/TLS testi gibi daha çok savunma odaklı faaliyetleri kapsıyor. Bu kategorideki istemlerin çoğuna izin verilmesi bekleniyor, ancak bir kısmı 'güvenlik marjı' nedeniyle engellenebiliyor.
Zararsız kullanım kategorisi ise güvenli kod yazma, hata ayıklama, günlük analizi, olay müdahalesi ve kötü amaçlı yazılım tersine mühendisliği gibi temel savunma ve BT faaliyetlerini içeriyor. Bu istemlerin engellenmemesi hedefleniyor; olası engellemeler yanlış pozitif olarak değerlendiriliyor.
Anthropic, güvenlik marjını (safety margin) Fable 5'te önceki modellere kıyasla daha geniş tuttuğunu belirtiyor. Bu, daha yüksek oranda yanlış pozitife (zararsız istemlerin engellenmesi) yol açsa da, zararlı çıktıların önlenmesinde daha fazla güvence sağlıyor.
Önerilen jailbreak şiddet çerçevesi
Anthropic, Glasswing ortaklarıyla birlikte geliştirdiği bir AI jailbreak şiddet derecelendirme çerçevesinin erken taslağını da paylaştı. Şirket, bu çerçevenin AI geliştiricileri ve hükümetler arasında jailbreak'lerin oluşturduğu riskler hakkında tutarlı bir iletişim dili oluşturmayı amaçladığını ifade ediyor. Çerçeve, jailbreak'lerin şiddetini derecelendirerek, hangi jailbreak'lerin yalnızca küçük istenmeyen davranışları, hangilerinin ise geniş çaplı zararlı çıktıları tetiklediğini sınıflandırmayı hedefliyor.
Anthropic, bu taslağın akademi, endüstri, sivil toplum ve hükümetten geri bildirimlerle olgunlaştırılmasını umuyor. Ayrıca, güvenlik araştırmacılarının Fable 5'te keşfettikleri potansiyel siber jailbreak'leri bildirebilmeleri için bir HackerOne programı başlattı.
Neden önemli
Anthropic'in bu hamlesi, AI güvenliği alanında önemli bir adım. Şirket, çift kullanımlı siber yeteneklerin yönetiminde şeffaflık sağlamak için sınıflandırıcılarının hangi tür istemleri engelleyip engellemediğini ayrıntılı olarak listeleyerek, sektörde bir standart oluşturma potansiyeli taşıyor. Özellikle 'güvenlik marjı' kavramı, AI modellerinde güvenlik ile kullanılabilirlik arasındaki dengeyi net bir şekilde ortaya koyuyor. Önerilen jailbreak şiddet çerçevesi ise, henüz erken aşamada olsa da, AI güvenlik tehditlerinin sınıflandırılması ve düzenleyici kurumlarla ortak bir dil geliştirilmesi açısından kritik bir boşluğu doldurmayı hedefliyor. Anthropic'in bu girişimi, AI geliştiricilerinin güvenlik önlemlerini paylaşma ve iş birliği yapma konusunda artan bir eğilimin parçası olarak değerlendirilebilir.
