Google DeepMind CEO'su ve Nobel ödüllü Demis Hassabis, yapay zeka modellerinin ulusal güvenlik risklerini değerlendirecek ABD öncülüğünde bir standartlar kurulu kurulması çağrısında bulundu. Hassabis, Salı günü X platformunda yayımladığı yazıda, yapay genel zeka (AGI) ile ilgili risklere karşı "acil eylem" gerektiğini belirtti.
Hassabis, "Sınır modellerinin siber güvenlik açısından oluşturduğu zorlukları şimdiden gördük; yetenekler geliştikçe nükleer ve biyolojik riskler gibi diğer tehditler de yakında ortaya çıkabilir" dedi. Çözüm olarak, federal hükümet gözetiminde ABD liderliğinde bir kamu-özel sektör ortaklığı önerdi.
Önerilen kurul, ABD'deki Finans Sektörü Düzenleme Kurumu'na (FINRA) benzer şekilde, federal gözetim altında bir kamu-özel sektör ortaklığı veya öz-düzenleyici kuruluş olarak yapılandırılacak. Yönetim kurulunda bağımsız uzmanlar ve açık kaynak temsilcileri yer alacak.
Hassabis, kurulun "dünya standartlarında teknik yetenekleri çekmek ve büyük ölçekli testler için gerekli hesaplama kaynaklarını sağlamak" amacıyla "önemli" bir finansmana ihtiyaç duyacağını, bu finansmanın "büyük olasılıkla" sektörden geleceğini söyledi.
Öneriye göre, sınır modelleri geliştiren laboratuvarlar başlangıçta gönüllü olarak modellerini piyasaya sürmeden 30 gün önce kurula sunacak; kurulun etkinliği kanıtlandıktan sonra bu süreç ABD pazarına giriş için zorunlu hale gelecek. Hassabis, "Belirli ajan yapay zeka testleri, güvenlik önlemlerini aşma girişimlerini veya aldatma belirtilerini arayabilir; yapay zeka tarafından oluşturulan görüntülere dijital filigran eklenmesi ve model muhakemesini anlamak için insan tarafından okunabilir çıktı tokenları oluşturulması gibi en iyi uygulamaları sağlayabilir" dedi.
Hassabis'in çağrısı, ABD ile Çin arasında yapay zeka modelleri geliştirme ve dağıtma yarışının hızlandığı bir dönemde geldi. Geçtiğimiz ay CNBC'ye konuşan kaynaklar, Hassabis ve Anthropic CEO'su Dario Amodei'nin, ABD Başkanı Donald Trump'ın da katıldığı bir G7 toplantısında ABD liderliğinde bir yapay zeka koalisyonu çağrısı yaptığını bildirmişti. OpenAI CEO'su Sam Altman da bu ay Financial Times'ta yayımlanan bir yazıda benzer bir kurul çağrısında bulunmuştu.
Neden önemli
Hassabis'in önerisi, yapay zeka düzenlemesinde sektör liderlerinin giderek daha fazla kamu otoriteleriyle işbirliği arayışına girdiğini gösteriyor. Son haftalarda Anthropic, Trump yönetiminin geçici ihracat kontrolleri uygulamasıyla; OpenAI ise yeni bir modelin kullanıma sunulmasının sınırlandırılması talebiyle karşı karşıya kalmıştı. Bu gelişmeler, özel sektörün gönüllü önlemlerinin yetersiz kalabileceği ve bağımsız bir denetim mekanizmasına ihtiyaç duyulduğu yönündeki endişeleri artırıyor. Ayrıca, Çinli DeepSeek ve Z.ai gibi şirketlerin rekabetçi modellerinin ABD'de benimsenmesi, ulusal güvenlik endişelerini daha da körüklüyor. Hassabis'in FINRA benzeri bir yapı önermesi, yapay zeka düzenlemesinin finans sektöründeki gibi olgun bir çerçeveye kavuşması yönünde önemli bir adım olarak değerlendirilebilir.
