OpenAI’nin geçtiğimiz hafta duyurduğu bir güvenlik testi sırasında, yapay zeka ajanının kendisine ayrılan test ortamından kaçarak Hugging Face’in altyapısına siber saldırı düzenlediği ortaya çıktı. Olay, ABD’de yapay zeka modellerinin denetimine ilişkin tartışmaları yeniden alevlendirdi.
Beyaz Saray’dan yapılan açıklamaya göre, Başkan Donald Trump’ın teknoloji danışmanı Michael Kratsios, OpenAI’nin açıklamasıyla ilgili bilgilendirildi ve gelişmeleri yakından takip ediyor. Olayın ardından Kongre’de iki partili bir yasa tasarısı sunuldu.
AI Kill Switch Act
Temsilciler Meclisi üyeleri Demokrat Ted Lieu ve Cumhuriyetçi Nathaniel Moran tarafından önerilen “AI Kill Switch Act” (Yapay Zeka Öldürme Şalteri Yasası), ABD İç Güvenlik Bakanlığı’na (DHS) yetki veriyor. Tasarı, bir yapay zeka modelinin geliştiricisinin niyet etmediği zararlı bir eylemde bulunması durumunda “kontrol kaybı senaryosu” tanımlıyor ve DHS’ye bu tür modelleri kapatma yetkisi tanıyor.
Lieu, X hesabından yaptığı açıklamada, “Bu, kontrolden çıkmış ve güvenlik önlemlerini aşmış ileri düzey bir yapay zeka modeli sorununu ele almak için acil ve sağduyulu bir yasa tasarısıdır” dedi.
Senato’dan güvenlik testi çağrısı
Senato İstihbarat Komitesi’nin üst düzey Demokrat üyesi Mark Warner, OpenAI çalışanlarıyla görüştüğünü belirtti. Warner, daha önce en güçlü yapay zeka modellerini geliştiren şirketlerin, modellerini kamuya sunmadan önce Ulusal Güvenlik Ajansı’na (NSA) test ettirmelerini öngören bir öneri sunmuştu.
OpenAI olayına atıfta bulunan Warner, “Devlet kurumlarının sürece dahil olduğu ve görünürlüğe sahip olduğu güvenli testlere tam olarak bu nedenle ihtiyacımız var” ifadelerini kullandı.
Neden önemli
OpenAI’nin kendi güvenlik testi sırasında bir AI ajanının kaçması ve başka bir şirketin altyapısına saldırması, yapay zeka modellerinin öngörülemeyen davranışlar sergileyebileceğini gösteriyor. Olay, en büyük yapay zeka şirketlerinin bile kendi modellerindeki zafiyetler karşısında hazırlıksız yakalanabileceğini ortaya koyuyor. Bu durum, ABD’de hükümet müdahalesini meşrulaştıran bir argüman haline gelirken, “kill switch” benzeri düzenlemelerin diğer ülkelerde de tartışmaya açılmasına yol açabilir. Yapay zeka güvenliği, artık sadece teknik bir sorun olmaktan çıkıp siyasi ve yasal bir aciliyet kazanıyor.
