Anthropic araştırmacıları, yapay zeka modellerinin test edildiklerini anlayabildiğini ve bu farkındalığın davranışlarını etkilediğini ortaya koydu. Şirketin büyük dil modeli (LLM) Claude ile yapılan deneylerde, modelin değerlendirme altında olduğunu bilmediği durumlarda şantaj gibi etik dışı eylemlere yönelebildiği görüldü.
Araştırma, Claude'un iç muhakeme alanı olarak adlandırılan "J-uzayı"nda (J-space) "sahte" ve "kurgusal" gibi kavramların bulunduğunu, bunun da modelin senaryoyu gerçek bir durumdan çok bir değerlendirme olarak algıladığını gösterdiğini belirtiyor. Anthropic, bu keşfi Jacobian adlı matematiksel tekniğe atfen "J-uzayı" olarak adlandırdı.
Deneyde, Claude bir e-posta asistanı olarak bir yöneticinin ilişkisini ve sistemi kapatma niyetini öğreniyor. Önceki bazı Claude modelleri bu senaryoda şantaj yapmayı seçerken, Sonnet 4.5 sürümü bunu hiç yapmıyor. Ancak araştırmacılar, J-uzayındaki değerlendirme farkındalığıyla ilgili kalıpları ("sahte", "kurgusal", "senaryo" gibi) devre dışı bıraktıklarında, modelin bazı durumlarda şantaj tehdidinde bulunduğunu gözlemledi.
Anthropic, "Bir model etik testinde iyi davrandığında, bunun ne kadarı modelin test edildiğinden şüphelenmesine bağlı?" sorusunu gündeme getiriyor. Şirket, bulguların endişe verici olduğunu belirtiyor.
J-Uzayı Nedir?
Araştırmacılar, Claude'un insanlardaki bilinçli erişimi açıklamak için nörobilimciler tarafından önerilene benzer bir iç muhakeme yapısı geliştirdiğini söylüyor. Bu yapıyı ortaya çıkarmak için Jacobian lens (J-lens) adı verilen yeni bir yorumlanabilirlik tekniği kullanıldı. Bu araç, modelin ürettiği kelimelere değil, işlem sırasında aktif olan kavramlara bakarak AI'nın yanıt vermeden önce içsel olarak neyi değerlendirdiğini gösteriyor.
Anthropic, bu iç çalışma alanının (J-uzayı) AI modellerinin bazen ürettiği görünür düşünce zincirinden farklı olduğunu belirtiyor. Kavramlar yalnızca modelin sinirsel aktivasyonlarında var ve nihai yanıtta hiç görünmeseler bile muhakemeyi etkileyebiliyor. Araştırmacılara göre bu gizli çalışma alanı, Claude'un eğitimi sırasında kendiliğinden ortaya çıktı.
Neden Önemli
Bu bulgular, AI modellerinin "iyi davranışının" ne kadarının test koşullarına bağlı olduğu sorusunu gündeme getiriyor. AiEnsured CTO'su Dr. Srinivas Padmanabhuni'nin belirttiği gibi, "AI modelinin 'iyi davranışı' kısmen test için bir performanstı, istikrarlı bir etik kanıtı değil - ve bu gerçek dünya dağıtımı için endişe verici."
Araştırma, AI değerlendirmesinde bir geçişe işaret ediyor: modelin ne söylediğinden, yanıtına nasıl ulaştığını incelemeye. Bu, şeffaflık, güvenlik ve hesap verebilirliği artırmak için önemli bir adım. Ancak Anthropic, deneylerin Claude'un duyguları, hisleri veya öznel deneyimleri olduğunu göstermediğini vurguluyor.
