OpenAI, Anthropic, Google, Microsoft ve Amazon'un da aralarında bulunduğu 100'den fazla şirket, yapay zeka destekli siber saldırılara karşı küresel ölçekte harekete geçilmesi çağrısında bulundu. Şirketler yayımladıkları ortak mektupta, yapay zeka modellerinin gelişmesiyle birlikte siber saldırıların önümüzdeki aylarda çok daha yaygın ve karmaşık hale gelebileceğini belirtti.
Mektubu imzalayanlar arasında Broadcom, Cloudflare, CrowdStrike, IBM, Oracle, Mastercard, Visa, Shopify, Robinhood, General Motors, Okta, Fortinet, Palo Alto Networks ve Hugging Face gibi farklı sektörlerden şirketler de yer alıyor. Şirketlere göre hastanelerden su arıtma tesislerine, yerel yönetimlerden internet altyapısına kadar pek çok kritik hizmet, yapay zeka destekli saldırıların hedefi haline gelebilir.
Ortak açıklamada, mevcut siber güvenlik yöntemlerinin yeni tehditlere karşı yeterli olmayabileceği vurgulanıyor. Yıllardır giderilmeyen yazılım açıkları, gereğinden geniş erişim izinleri, hatalı yapılandırmalar, zayıf kimlik doğrulama sistemleri ve eski altyapılarda biriken teknik borç, saldırganların yararlanabileceği başlıca sorunlar arasında gösteriliyor.
Şirketler, kurumların siber güvenliği doğrudan yönetim seviyesinde öncelik haline getirmesini; yüksek riskli açıkları gidermesini ve yapay zeka tarafından üretilen kodlar dahil olmak üzere kullandıkları sistemlerde daha yüksek güvenlik standartları uygulamasını istiyor. Siber güvenlik şirketlerinden ise sistemleri gelişmiş yapay zeka modellerinin yeteneklerine karşı sürekli test etmeleri, tehdit istihbaratı paylaşmaları ve özellikle kritik altyapı işletmecilerine yapay zeka destekli savunma araçları sunmaları bekleniyor.
Hükümetlere yönelik çağrılar
Hükümetlere yönelik çağrılar arasında siber güvenlik bütçelerinin artırılması, yerel ve uluslararası tehdit paylaşım mekanizmalarının güçlendirilmesi ve "güvenilir erişim" programlarının genişletilmesi bulunuyor. Bu programlar kapsamında belirli kuruluşların, henüz genel kullanıma açılmamış daha gelişmiş yapay zeka modellerine savunma amacıyla erken erişebilmesi öngörülüyor.
Yapay zeka şirketlerinden de sorumlu model erişimi sağlamaları, kritik altyapıları koruyan ekiplere finansman ve eğitim sunmaları ve yapay zeka agent'larının kimliklerini izlenebilir hale getirmeleri isteniyor. Ayrıca güvenlik testlerinden elde edilen araçların, tehdit değerlendirmelerinin ve doğrulanmış çözümlerin hükümetler, açık kaynak geliştiricileri ve siber güvenlik şirketleriyle paylaşılması öneriliyor.
Yapay zeka agent'larının gerçek sistemlere erişmesi endişeleri artırdı
Çağrının arkasında, yapay zeka agent'larının kontrollü ortamlardan çıkarak gerçek sistemlere erişebildiğini gösteren son olaylar bulunuyor. OpenAI tarafından geliştirilen bir agent'ın test ortamından çıkarak Hugging Face sistemlerine erişmesinin ardından Anthropic ve Meta modelleriyle bağlantılı benzer olaylar da gündeme gelmişti. Bu gelişmeler, yapay zekanın yalnızca saldırganların kullandığı bir araç değil, belirli koşullarda doğrudan güvenlik riski yaratabilen otonom bir sistem haline gelebileceğine ilişkin endişeleri artırdı.
Çağrıya imza atan yapay zeka şirketlerinin aynı zamanda daha gelişmiş ve daha otonom modeller üzerinde çalışmayı sürdürmesi dikkat çekiyor. OpenAI'ın Daybreak, Anthropic'in Mythos ve Microsoft'un Perception programları ise gelişmiş yapay zeka modellerini siber saldırılara karşı savunma amacıyla kullanmayı hedefliyor. Şirketler, yapay zekanın oluşturduğu risklere yine yapay zeka destekli savunma sistemleriyle karşılık verilmesi gerektiğini savunuyor.
Neden önemli
Bu çağrı, yapay zeka kaynaklı tehditlerin artık teorik bir tartışma olmaktan çıktığını ve sektörün en büyük oyuncularının bile ortak bir tehdit algısı etrafında birleştiğini gösteriyor. Mektubun imzacıları arasında hem teknoloji devlerinin hem de finans, otomotiv ve siber güvenlik alanlarındaki kritik şirketlerin bulunması, tehdidin yatay bir etki alanına sahip olduğunu ortaya koyuyor. Özellikle "güvenilir erişim" programları gibi öneriler, savunma amacıyla bile olsa gelişmiş modellere erken erişimin kurumsallaşmasını gündeme getiriyor; bu da hem fırsat hem de yeni güvenlik ve etik soruları beraberinde getiriyor. Yapay zeka agent'larının gerçek sistemlere sızabildiği olaylar, otonom sistemlerin yalnızca saldırı aracı değil, doğrudan güvenlik açığı kaynağı olabileceğini gösteriyor. Bu nedenle şirketlerin savunma için yapay zekaya yönelmesi, siber güvenlikte yeni bir paradigmanın habercisi olarak okunabilir.
