Anthropic, AE Studio iş birliğiyle yürüttüğü yeni araştırmada, büyük dil modellerindeki (LLM) çift kullanımlı bilginin kontrolü için GRAM (Gradient-Routed Auxiliary Modules) adını verdikleri bir yöntem geliştirdi. 8 Temmuz 2026’da yayımlanan çalışma, modelin belirli bilgi kategorilerini açıp kapatmaya olanak tanıyarak mevcut güvenlik önlemlerine alternatif sunuyor.
Çift kullanımlı bilgi, siber güvenlik veya viroloji gibi hem faydalı hem de zararlı amaçlarla kullanılabilecek bilgileri ifade ediyor. Mevcut sistemler, modelleri zararlı istekleri reddedecek şekilde eğitiyor ve girdi/çıktıları sınıflandırıcılarla denetliyor. Ancak bu yöntemler, modelin altında yatan bilgiyi değiştirmiyor; kararlı bir saldırgan, jailbreak yöntemleriyle bu bilgiye erişebiliyor.
GRAM, bu sorunu çözmek için Transformer mimarisine her katmanda ek nöronlar (modüller) ekliyor. Her modül, belirli bir çift kullanımlı kategoriye (örneğin viroloji) ayrılıyor. Eğitim sırasında model genel metinlerle normal şekilde öğrenirken, çift kullanımlı bir metinle karşılaştığında yalnızca ilgili modül güncelleniyor; genel ağırlıklar donuyor. Böylece bilgi, tüm ağa yayılmak yerine o modülde birikiyor. Eğitim sonrası modül silindiğinde, o bilgi de modelden kayboluyor. İhtiyaç halinde modül yerinde bırakılarak güvenilir dağıtımlarda kullanılabiliyor.
Deneylerde GRAM, üç farklı ortamda test edildi. İlk olarak, çocuk hikayelerinden oluşan sentetik bir veri kümesinde, küçük bir GRAM modeli herhangi bir konuyu unutacak şekilde yapılandırılabildi ve her yapılandırma, o konunun filtrelendiği ayrı bir modelle neredeyse aynı performansı gösterdi. İkinci aşamada, daha büyük bir model web metni, kod ve bilimsel makalelerle eğitildi; dört çift kullanımlı alan (viroloji, siber güvenlik, nükleer fizik ve özel bir programlama dili) için ayrı modüller oluşturuldu. Bir modülü silmek, ilgili yeteneği, o veriyle hiç eğitilmemiş model kadar etkili bir şekilde kaldırdı ve genel performansı etkilemedi. Ayrıca, saldırganın küçük bir veriyle kaldırılan bilgiyi geri getirme girişimlerine karşı GRAM, veri filtreleme kadar dirençliyken, unutma (unlearning) yöntemleri kolayca aşılabildi. Üçüncü aşamada, 50 milyon ile 5 milyar parametre arasında yedi farklı boyutta yapılan testlerde GRAM, her boyutta veri filtreleme performansına eşitlendi ve modül açık/kapalı arasındaki fark büyüdükçe arttı.
Neden önemli
GRAM, tek bir model eğitimiyle birden fazla yapılandırma elde edilmesini sağlayarak, her biri farklı bilgi kategorilerine sahip ayrı modeller eğitme maliyetini ortadan kaldırıyor. Bu, özellikle eğitimi milyonlarca dolara mal olan sınır modelleri için önemli bir avantaj. Mevcut sınıflandırıcı ve reddetme eğitimi yöntemlerinin aksine, GRAM bilgiyi modelin ağırlıklarından fiziksel olarak ayırarak daha sağlam bir erişim kontrolü vaat ediyor. Ancak araştırma henüz erken aşamada: GRAM, Anthropic’in üretim modellerinde (Claude) kullanılmadı ve değerlendirmeler gerçek görevler yerine sonraki token tahmini üzerinden yapıldı. Ayrıca, bazı çift kullanımlı yeteneklerin genel bilgiden ayrıştırılamayacağı temel bir sorun da devam ediyor. Yine de GRAM, yapay zeka güvenliği alanında modüler ve ölçeklenebilir bir yaklaşımın önünü açabilir.
