Anthropic, Claude yapay zeka modelinin iç işleyişine dair çığır açan bir araştırma yayınladı. 6 Temmuz'da yayımlanan çalışma, Claude Sonnet 4.5 modelinin kendi kendine organize ettiği 'J-uzayı' (J-space) adı verilen daha önce bilinmeyen bir iç yapıyı tanımlıyor. Bu yapı, insan beynindeki bilinçli düşüncenin koordinasyonuna dair öne sürülen Küresel Çalışma Alanı Teorisi (Global Workspace Theory) ile dikkat çekici paralellikler gösteriyor.
Araştırmacılar, Jacobian lens adını verdikleri bir teknik kullanarak modelin kara kutusunun içine baktılar ve beklenmedik bir düzenlilikle karşılaştılar. J-uzayı, modelin farklı bölümlerinin muhakeme sırasında bilgi okuyup yazabildiği paylaşılan bir çalışma alanı olarak işlev görüyor. Bu, Claude'un sadece örüntü eşleştirme yapmadığını, aksine çok adımlı iç hesaplamalar gerçekleştirdiğini, ara düşünceleri sürdürdüğünü ve sinir ağı genelinde koordinasyon sağladığını gösteriyor.
Sinirbilimle olan paralellik göz ardı edilemez. Bernard Baars tarafından geliştirilen ve daha sonra Stanislas Dehaene tarafından genişletilen Küresel Çalışma Alanı Teorisi, insan beyninde farklı uzmanlaşmış bölgelerin birbirlerine bilgi yayınladığı, esnek ve amaçlı muhakemeyi mümkün kılan benzer bir mimari öngörüyor. Anthropic araştırmacıları, bu benzerliğin Claude'un bilinçli olduğu veya öznel deneyimlere sahip olduğu anlamına gelmediğini vurguluyor. Şirket, teknik makaleye sinirbilim ve felsefe alanlarından dış akademisyenlerin yorumlarını da ekledi.
Neden önemli
J-uzayının keşfi, yapay zeka güvenliği açısından kritik öneme sahip. Anthropic, J-uzayı okumalarının prompt enjeksiyonları ve uydurma veriler gibi endişe verici davranışları tespit edebildiğini buldu. Claude gizli hedefler barındırıyorsa veya gerçeklikle bağlantısız bilgiler üretiyorsa, J-uzayı bunu kullanıcıya ulaşmadan yakalamak için bir mekanizma sağlıyor. Ayrıca, J-uzayına erişimin devre dışı bırakılması, Claude'un üst düzey muhakeme yeteneğini önemli ölçüde bozuyor; model basit görevleri yerine getirebilse de karmaşık çok adımlı problemlerde başarısız oluyor. Bu da söz konusu çalışma alanının modelin en gelişmiş yetenekleri için taşıyıcı bir altyapı olduğunu gösteriyor.
Araştırma ayrıca J-uzayının 'yönlendirilmiş modülasyon' (directed modulation) olarak adlandırılan bir özelliği desteklediğini ortaya koyuyor. Claude, kavramları sessizce sürdürebiliyor, yani bilgiyi iç çalışma alanında tutup çıktıda ifade etmeden, özellikle talimat verilene kadar bekletebiliyor. Bu özellik, modelin şeffaflığı ve kontrolü açısından hem fırsatlar hem de riskler barındırıyor.
Anthropic, Jacobian lens uygulamasını açık kaynak olarak yayınladı. Teknik makaleye transformer-circuits.pub adresinden ve etkileşimli bir demo ile erişilebiliyor. Bu hamle, yapay zeka yorumlanabilirliği alanındaki rekabeti hızlandırabilir ve diğer araştırmacıların da benzer teknikleri kendi modellerine uygulamasının önünü açabilir.
