Google DeepMind CEO'su Demis Hassabis, sınır yapay zeka (frontier AI) modellerinin gelişimini denetlemek üzere bir standartlar kurulu oluşturulması çağrısında bulundu. Hassabis, LinkedIn üzerinden yaptığı açıklamada, kurulun değerlendirme protokolleri geliştirmekten ve uygun federal kurumlar ile ABD Ulusal Laboratuvarları ile koordineli olarak ulusal güvenlik alanında testler yapmaktan sorumlu olması gerektiğini belirtti.
Hassabis, kurulun federal gözetim altında bir kamu-özel sektör ortaklığı veya Finans Sektörü Düzenleme Kurumu (FINRA) benzeri bir öz-düzenleyici kuruluş (SRO) modeliyle yapılandırılmasını önerdi. Kurulda bağımsız önde gelen teknik uzmanlar ve açık kaynak temsilcilerinin yer alması gerektiğini vurguladı.
"Şu anda son derece yoğun, çok katmanlı bir ticari ve jeopolitik yarışın içindeyiz," diyen Hassabis, rekabetin hızlı ilerlemeyi körüklerken, sınırdaki gelişmelerin teknolojiye dair anlayışımızı geride bıraktığını ifade etti. "Dünyada hiç kimse bundan sonra ne olacağını kesin olarak bilmiyor ve uzmanlar bile aynı fikirde değil. Belirsizliğin büyük olduğu ve risklerin bu kadar yüksek olduğu bir durumda, ihtiyatlı iyimserlikle ilerlemek akıllıca ve doğru stratejidir."
Neden önemli
Hassabis'in önerisi, yapay zeka güvenliği tartışmalarında önemli bir dönüm noktasına işaret ediyor. Sektör temsilcileri, açık ağırlıklı (open-weight) modellerin geri çağrılamaz olması ve tehlikeli yeteneklerin hükümet haberdar olmadan dolaşıma girebilmesi nedeniyle standartların zorunlu olduğunu belirtiyor. Ancak uzmanlar, FINRA modelinin yapay zeka için uygun olmayabileceğini, çünkü finans alanındaki kayıpların telafi edilebilirken yapay zeka risklerinin geri döndürülemez olabileceğini vurguluyor. Bazıları ise mevcut NIST bünyesindeki Yapay Zeka Standartları ve İnovasyon Merkezi (CAISI) gibi yapıların güçlendirilmesini savunuyor.
Öneri, yapay zeka düzenlemesinde "tavuk mu yumurta mı" sorusunu da gündeme getiriyor: Yeni bir kurum mu kurulmalı, yoksa mevcut kapasite mi artırılmalı? Hassabis'in AGI öncesi bu pencereyi iyi değerlendirme çağrısı, sektörün önümüzdeki yıllarda şekillenecek düzenleme tartışmalarında kilit rol oynayacak gibi görünüyor.
