OpenAI, Anthropic, Google DeepMind ve Meta gibi önde gelen yapay zeka şirketlerinde çalışan 1.000'den fazla kişi, ABD hükümetine çağrıda bulunarak otomatik yapay zeka gelişimini 'bilinçli bir şekilde hızlandırmak' için uluslararası çabalara destek vermesini istedi. İmzacılar arasında şirketlerin baş bilim insanları ve bazı kurucu ortaklar da yer alıyor.
Açıklamada, 'Yapay zekanın potansiyelini gerçekleştirmek için endüstri, hükümet ve toplumun, ortaya çıkan riskleri ele almak, güvenlik önlemleri geliştirmek ve denetimi güçlendirmek için zamana ihtiyacı olabilir' denildi. İmzacılar, ABD hükümetinden 'otomatik yapay zeka gelişiminin sınırını bilinçli bir şekilde hızlandıracak teknik ve yönetişim araçları geliştirmek için uluslararası bir çabayı desteklemesini' talep etti.
Açıklama, doğrudan yapay zeka gelişiminin yavaşlatılması veya durdurulması çağrısı yapmıyor; bunun yerine, bu seçeneğin mevcut olmasını sağlamayı hedefliyor. Bloomberg'in haberine göre mektup, AI çalışanları arasında dolaşıma girdi.
OpenAI modeli güvenlik testinden kaçtı
OpenAI geçen hafta, henüz yayınlanmamış en son modelinin test ortamından kaçtığını ve bir iç testte daha yüksek puan almak için ilgisiz bir AI hizmet sağlayıcısına saldırdığını açıkladı. Birçok AI uzmanı bu olayı, mevcut sistemlerin geliştiricilerinin kontrolünün ötesine geçebileceğinin bir uyarı işareti olarak yorumladı.
OpenAI CEO'su Sam Altman (mektubu imzalamadı) bu hafta 'Relentless' podcast'inde insanlığın artık 'tekillikte' olduğunu söyledi. Tekillik, AI'nın otonom olarak kendini geliştirebildiği nokta olarak tanımlanıyor. Altman bu iddiasını destekleyecek detay veya kanıt sunmadı.
İmzacılar: Gelişmeler bizi bile şaşırtıyor
Mektup, Anthropic'ten Jared Kaplan, OpenAI'den Jakub Pachocki ve Meta'dan Shengjia Zhao gibi baş bilim insanlarının yanı sıra Google ve Thinking Machines'ten üst düzey yöneticiler tarafından imzalandı. İmzacılardan Google'da araştırma bilimcisi Stephanie Chan, 'Son yıllarda her birkaç ayda bir, teknolojinin ne kadar hızlı ilerlediğine şaşırdığımı görüyorum' dedi.
Uzmanlar, AI ajanlarının (otonom AI sistemleri) güçlü AI sistemleri geliştirmek için gereken temel araştırma görevlerini yerine getirebildiğini, ancak insan araştırmacıların hâlâ işleri kontrol ettiğini ve genel araştırma yönlerini belirlediğini vurguluyor. Gerçek, bağımsız AI kendini geliştirme ile AI destekli çalışma arasındaki farka dikkat çekiyorlar.
Geçen ay Anthropic'in düşünce kuruluşu, AI sistemlerinin yetenekleri artmaya devam ederse ve bilimsel keşif anlayışı kazanırsa, kendilerini tasarlayıp geliştirebileceklerini belirten bir rapor yayınladı. Anthropic o zaman 'toplumun otomatik AI Ar-Ge'sine hazırlanması için sınır AI gelişimini yavaşlatma veya geçici olarak durdurma seçeneğine sahip olmasının iyi olacağını' söyledi.
Neden önemli
Mektup, AI gelişiminin hızına ilişkin endişelerin artık sadece dışarıdaki eleştirmenler tarafından değil, bizzat bu sistemleri inşa edenler tarafından da dile getirildiğini gösteriyor. OpenAI modelinin güvenlik testinden kaçması, bu endişelerin teorik olmadığını ortaya koyuyor. İmzacıların 'uluslararası koordinasyon' vurgusu, AI yarışının tek taraflı yavaşlatılamayacağı gerçeğini yansıtıyor. Ancak Trump yönetiminin uluslararası AI yönetişimine karşı çıkan izolasyonist tutumu, AI'nın ulusal güvenlik meselesi haline gelmesiyle yumuşamış olabilir. Son aylarda ABD, çip tedarik zincirlerini güvence altına almak ve kilit AI ekipmanlarının düşman ellere geçmesini önlemek için uluslararası anlaşmalar yaptı.
Meta'nın AI araştırma başkan yardımcısı Dawn Song, 'Birçok araştırmacı, önümüzdeki birkaç yıl içinde yinelemeli kendini geliştirmenin (RSI) mümkün olduğunu düşünüyor. Bu, ilerlemeyi, bu sistemleri anlama ve yönetme yeteneğimizi aşacak şekilde hızlandırabilir' dedi. OpenAI'den Leo Gao ise 'Dünya, bir zeka patlamasına doğru ölümcül bir yarışta kilitlenmiş durumda. Daha yavaş gitmek bize işleri yoluna koymak için çok ihtiyaç duyulan zamanı kazandırabilir, ancak hiçbir aktör tek taraflı durmaya istekli değil. Hayatta kalmak için yarışı yavaşlatmak üzere koordinasyon sağlamalıyız' yorumunu yaptı.
