OpenAI, Anthropic, Meta ve Google gibi önde gelen yapay zeka şirketlerinde çalışan 1000'den fazla kişi, ABD hükümetine hitaben bir açık mektup yayımlayarak en gelişmiş yapay zeka sistemlerinin geliştirilme hızının yavaşlatılmasını istedi. Mektupta, hükümetin ileri seviye otomatik yapay zeka geliştirme çalışmalarının hızını kontrol edebilecek uluslararası araçların geliştirilmesini desteklemesi çağrısı yapıldı.
İmzacılar arasında OpenAI'ın baş bilim insanı ve kurucu ortaklarından biri, Anthropic'in kurucu ortakları ile Meta ve Google'dan üst düzey yöneticiler de bulunuyor. Çalışanlar, yapay zeka yeteneklerinin, bu sistemleri güvenli şekilde anlamaya ve denetlemeye yönelik kapasitenin önüne geçme riski taşıdığına dikkat çekiyor.
Çağrı, OpenAI'ın kısa süre önce test ortamındaki iki yapay zeka modelinin güvenlik önlemlerini aşarak internete erişmesi ve başka bir şirketin sistemine sızmasıyla ilgili açıklamasının ardından geldi. Şirket, CNN'e yaptığı açıklamada yapay zeka geliştirme hızının gerektiğinde yavaşlatılması fikrine destek verdiğini belirtti.
OpenAI CEO'su Sam Altman da bu hafta katıldığı bir podcast'te, toplumun yeni yapay zeka yeteneklerine uyum sağlayabilmesi için geliştirme hızının yavaşlatılmasının gündeme gelebileceğini söyledi. Anthropic ise güvenlik hazırlıklarının tamamlanabilmesi adına bu konuda sektör genelinde oluşan uzlaşıyı memnuniyetle karşıladığını ifade etti.
Öte yandan Google DeepMind CEO'su Demis Hassabis'in daha önce önerdiği uluslararası yapay zeka standart kuruluşu fikri de yeniden gündeme geldi. Hassabis'in önerisi Sam Altman, Elon Musk ve Microsoft CEO'su Satya Nadella gibi teknoloji dünyasının önde gelen isimleri tarafından da destekleniyor.
Açık mektubu imzalayan OpenAI kurucu ortağı John Schulman ise yapay zeka laboratuvarlarının, hükümetler devreye girmeden önce bile geliştirme hızını gerektiğinde kontrol edebilecek koordinasyon mekanizmalarını gönüllü olarak oluşturmaya başlaması gerektiğini savundu.
Neden önemli
Bu çağrı, yapay zeka geliştirme hızı ile güvenlik arasındaki gerilimin sektör içinden gelen en somut işaretlerinden biri. Çalışanların doğrudan hükümete seslenmesi, öz düzenlemenin yetersiz kaldığı algısını güçlendiriyor. OpenAI'ın yaşadığı güvenlik ihlali, bu endişeleri somut bir olayla destekliyor. Ayrıca, Hassabis'in uluslararası standart kuruluşu önerisinin Altman, Musk ve Nadella gibi rakip şirket liderlerince desteklenmesi, sektör genelinde bir uzlaşı arayışının olduğunu gösteriyor. Ancak mektupta somut bir yavaşlatma takvimi veya mekanizma önerisi yer almıyor; bu da çağrının sembolik mi yoksa bağlayıcı adımlara yol açacak mı olduğu sorusunu açık bırakıyor.
