ABD Temsilciler Meclisi'ne sunulan iki partili bir yasa teklifi, federal kurumlara kritik altyapı sistemlerinde çalışan yapay zeka modellerini acil durumlarda devre dışı bırakma yetkisi veriyor. AI Kill Switch Act adını taşıyan yasa tasarısı, Demokrat Ted Lieu ve Cumhuriyetçi Nathaniel Moran tarafından ortaklaşa hazırlandı.
Tasarı, İç Güvenlik Bakanlığı'na (DHS), enerji şebekeleri, su sistemleri ve ulaşım ağları gibi kritik altyapılarda kullanılan yapay zeka modellerinin 'kontrol dışı' davranışlar sergilemesi halinde müdahale etme ve modeli durdurma yetkisi veriyor. Bu yetki, siber güvenlik ihlalleri, modelin öngörülemeyen çıktılar üretmesi veya ulusal güvenliğe tehdit oluşturması gibi durumları kapsıyor.
Tetikleyici olay: OpenAI ve Hugging Face saldırısı
Yasa teklifinin arkasındaki en önemli itici güç, geçtiğimiz aylarda yaşanan bir siber güvenlik olayı. Kaynaklara göre, OpenAI ve Hugging Face sistemlerine yönelik bir siber saldırı, saldırganların büyük dil modellerine (LLM) erişmesine ve bu modelleri kötüye kullanmasına yol açtı. Bu olay, mevcut düzenlemelerin yapay zeka kaynaklı risklere karşı yetersiz kaldığı endişelerini artırdı.
Uzman görüşleri ve endüstri tepkileri
Siber güvenlik firması Illumio'nun baş güvenlik sorumlusu Trevor Nandakumara, yasa teklifini 'doğru yönde atılmış bir adım' olarak nitelendirirken, Thales'in güvenlik uzmanı Tomer Dodt, yapay zeka modellerine yönelik saldırıların 'sadece başlangıç' olduğunu ve bu tür düzenlemelerin kaçınılmaz hale geldiğini belirtti.
Anthropic'in Mythos/Fable modeli askıya alındı
Yasa teklifinin gündeme geldiği dönemde, yapay zeka şirketi Anthropic, Mythos/Fable adlı modelini güvenlik endişeleri nedeniyle geçici olarak askıya aldı. Anthropic'in kurucu ortağı Jack Clark, BBC'ye yaptığı açıklamada, 'Modellerimizin yetenekleri arttıkça, güvenlik önlemlerimizin de aynı hızda gelişmesi gerekiyor. Bu yasa, sektörün ihtiyaç duyduğu net çerçeveyi sağlayabilir' dedi.
Dario Amodei'nin G7 önerisi
Anthropic'in CEO'su Dario Amodei ise daha geniş kapsamlı bir uluslararası düzenleme çağrısında bulundu. Amodei, G7 ülkelerinin yapay zeka güvenliği konusunda ortak bir çerçeve oluşturması gerektiğini savundu. Bu öneri, AI Kill Switch Act'in uluslararası boyutta da yankı bulabileceğini gösteriyor.
Neden önemli
AI Kill Switch Act, yapay zeka düzenlemeleri konusunda ABD'de şu ana kadar önerilen en somut adımlardan biri. Tasarı, özellikle kritik altyapılarda kullanılan yapay zeka sistemlerine odaklanarak, olası bir 'yapay zeka felaketi' senaryosuna karşı bir acil durum mekanizması oluşturmayı hedefliyor. Ancak tasarının yasalaşması halinde, 'kontrol dışı' tanımının nasıl yapılacağı ve DHS'nin bu yetkiyi hangi kriterlere göre kullanacağı gibi önemli sorular hala cevaplanmayı bekliyor. Yine de, iki partili desteğe sahip olması ve somut bir siber saldırı olayına dayanması, teklifin Kongre'de ciddi şekilde ele alınacağını gösteriyor.
