12 Haziran 2026'da yapay zeka laboratuvarı Anthropic, üç gün önce piyasaya sürdüğü en yeni Claude modelleri Fable 5 ve Mythos 5'e erişimi durdurdu. Karar, ABD hükümetinin modellerin yalnızca ABD vatandaşları tarafından kullanılmasına izin veren bir "ihracat kontrol direktifi" yayınlamasının ardından geldi.
Mythos, Anthropic'in en güçlü, "sınır" modeli. Şirket, Nisan ayında modeli ilk duyurduğunda, hackleme konusunda çok iyi olduğu için hemen piyasaya sürmeyeceklerini belirtmişti. Bunun yerine Mythos, temel dijital sistemlerdeki güvenlik açıklarını kapatmak için bir avuç kuruluşa (çoğunlukla ABD teknoloji şirketleri) sunuldu. Fable ise aynı temel model ancak siber güvenlik amacıyla kullanılmasını engellemek için ek güvenlik önlemleri eklenmiş hali. Geçen hafta kamuya sunulan buydu ve neredeyse hemen kapatıldı.
Anthropic ve Trump yönetimi arasındaki gerilim
Anthropic ile Trump yönetimi arasında 2025'in başından beri artan bir çatışma var. Yönetim, Anthropic'i "uyanık yapay zeka" yapmakla suçladı ve CEO Dario Amodei'yi "ideolojik bir manyak" olarak nitelendirdi. İlk anlaşmazlıklar yapay zeka düzenlemesi ve yarı iletken ihracat politikasıyla ilgiliydi. Anlaşmazlık, Anthropic'in Pentagon'un modellerini iç gözetim ve tam otonom silah sistemleri için kullanmasına izin vermeyi reddetmesiyle keskinleşti. Savunma Bakanlığı buna karşılık Anthropic'i "tedarik zinciri riski" olarak sınıflandırmakla tehdit etti; bu sınıflandırma askeri yüklenicilerin bağlarını koparmasını gerektirecekti.
Jailbreak'ler
ABD hükümeti geçen haftaki direktifin nedenini henüz kamuoyuna açıklamadı, ancak Anthropic, hükümetin bir jailbreak'ten (Fable'ın güvenlik önlemlerini aşarak en güçlü özelliklerini kötü amaçlarla kullanma yöntemi) haberdar olduğuna inandığını söylüyor. Bu güvenlik önlemleri, kullanıcı taleplerini AI modeline iletmeden önce güvenli veya güvensiz olarak sınıflandırıyor. Tetiklendiğinde, talep daha az güçlü bir modele yönlendiriliyor. Anthropic'e göre hükümetin endişesi, güvenlik önlemlerinin siber saldırılar için yararlı bilgiler çıkarmak amacıyla atlatılabilmesiydi.
Büyük dil modelleri için güvenlik önlemleri kurşun geçirmez değildir. Çoğunlukla modelin kullanıcının niyetini yorumlama yeteneğine bağlıdır. Bu görevin doğal zorluğunun ötesinde, geniş bir çevrimiçi topluluk (yazarın meslektaşlarıyla birlikte Undersphere adını verdiği) AI güvenlik önlemlerini aşmak için çalışıyor. Anthropic, "mevcut hiçbir model sağlayıcısı için mükemmel jailbreak direncinin mümkün olmadığını" kabul ediyor.
Anthropic, hükümet direktifinin arkasındaki araştırmanın, hem Anthropic'in rakibi hem de önemli bir yatırımcısı olan Amazon'daki mühendisler tarafından üretildiğini söylüyor. Ancak bu tek jailbreak değildi. Fable'ın piyasaya sürülmesinden sonraki 48 saat içinde, "Pliny the Liberator" takma adını kullanan bir araştırmacı, Fable 5'in tam sistem istemini X ve GitHub deposunda yayınladı. Sistem istemi, bir AI modelinin davranışını belirlemeye yardımcı olan gizli bir talimat setidir. Fable'ın sistem isteminin bilinmesinin pratikte nasıl kullanılabileceği tam olarak açık değil, ancak Undersphere'de dikkat çekti.
Bir sürpriz ve devam eden bir gizem
Fable gibi büyük dil modellerini güvenli hale getirmenin en derin sorunu, nasıl çalıştıklarını tam olarak bilmememiz. Oxford Üniversitesi ekonomisti ve makine öğrenimi uzmanı Maximilian Kasy'ye göre, olmaları gerekenden çok daha iyi çalışıyorlar. Büyük dil modelleri milyarlarca iç parametreye sahiptir ve makine öğrenimi yöntemleri kullanılarak akıl almaz derecede büyük veri yığınları üzerinde eğitilir. Kasy'ye göre, bu tür sistemlerin "aşırı uyumlu" olmasını bekleriz: eğitim verilerindeki kalıpları yeniden üretmede iyi, ancak yeni durumlara genelleme yapmada kötü. Ancak Claude ve ChatGPT gibi modern sistemler genelleme yapabiliyor gibi görünüyor. Kasy, modern AI gelişimini simyaya benzetiyor: deneme yanılma yoluyla başarılı, henüz sistematik teoriye dayanmıyor. Sonuç olarak, AI modellerinin davranışı, yapımcıları için bile kısmen opak.
Düzenlemesi zor
Teknolojinin opaklığı, düzenlemesinin bu kadar zor olmasının temel nedenlerinden biri. Hükümetler, tescilli sınır modellerini değerlendirmek için ihtiyaç duyacakları verilere, altyapıya ve uzmanlığa bağımsız erişimden yoksun. ABD yönetiminin iki hafta önce yayınlanan son AI güvenliği yürütme emri bu gerçeği yansıtıyor. Yönetim, sınır AI modellerinin gücünü fark ettikçe, ilk müdahalesiz duruşundan, geliştiricilerden modellerini piyasaya sürmeden önce inceleme için paylaşmalarını istemeye geçti. Bu talep, yönetimin şirketlere kendi modellerinin neler yapabileceğini ve nasıl kötüye kullanılabileceğini tam ve kapsamlı bir şekilde değerlendirme konusunda güvenmediğinin zımni bir kabulüdür.
Neden önemli
AI son derece abartılan bir teknoloji, ancak aynı zamanda son derece güçlü ve öngörülemez. Bu kombinasyon anlaşılır bir şekilde çok tehlikeli. Düzenlemelere güvenemeyiz, çünkü teknoloji onların uyum sağlayabileceğinden daha hızlı gelişecek. Güvenlik önlemlerine de güvenemeyiz, çünkü bunlar aşılacak. Bu durumla başa çıkmak için inşa edilmiş bir yönetişim çerçevesine ihtiyacımız var: başarısızlığın sonuçlarını tahmin edebilen ve ele alabilen bir çerçeve. Böyle bir çerçeve küresel, katılımcı ve karşılıklı güvene dayalı olmalıdır. Bunlar, mevcut ABD yönetiminin üretme konusunda çok az kapasite gösterdiği şeyler.
