ABD Savunma Bakanlığı (Pentagon) ile OpenAI arasında mart ayında yapılan ve 200 milyon dolarlık bir sözleşmeyi kapsayan anlaşmanın detaylarına ilişkin belgeler, bilgi edinme yasası (FOIA) kapsamında açılan bir dava sonucunda kamuoyuna yansıdı. Belgeler, bakanlığın askeri operasyonlar sırasında komutları reddetme ihtimali çok düşük olan özel bir yapay zeka sistemi talep ettiğini ortaya koyuyor.
Yayımlanan dokümanlarda, ulusal güvenlik kullanım senaryolarına yönelik OpenAI modellerinin "minimum ret oranlarına" sahip olması gerektiğine dair bir ifade yer alıyor. Söz konusu ifade, OpenAI ile Pentagon arasındaki mevcut anlaşmanın P00003 olarak adlandırılan güncellenmiş versiyonunda karşımıza çıkıyor. Burada "OpenAI Mission Models" olarak tanımlanan sistemlerin ulusal güvenlik kullanım senaryoları için tasarlanması ve kendisine yöneltilen talepleri mümkün olduğunca az reddetmesi öngörülüyor. İlgili çalışma, modellerin ulusal güvenlik problemleri üzerinde test edilmesini, değerlendirilmesini ve geliştirilmesini kapsıyor.
İki taraf da aynı noktada duruyor
Ancak hem OpenAI hem de Pentagon, söz konusu ifadenin taraflar arasında yürürlükte olan nihai anlaşmada bulunmadığını söylüyor. OpenAI sözcüsü Nate Evans, şirketin bu yönde bir sözleşme maddesini hiçbir zaman kabul etmediğini belirtti. Evans'a göre ifade, Pentagon tarafından önerilen daha eski bir taslakta bulunuyordu; OpenAI'ın itirazının ardından çıkarıldı ve yürürlüğe giren anlaşmada yer almadı. Pentagon da bugün yürürlükte olan OpenAI sözleşmesinde böyle bir şart bulunmadığını ifade ediyor.
Buna karşılık belgelerin elde edilme biçimi soru işaretlerini beraberinde getiriyor. FOIA kapsamında yapılan talepte özellikle taslakların değil, imzalanmış ve yürürlüğe girmiş sözleşmelerin paylaşılması istendi. Yayımlanan P00003 belgesi de taslak olarak işaretlenmiş değil. Pentagon'u davada temsil eden ABD Adalet Bakanlığı'ndan bir avukat başlangıçta belgenin imzalanmış ve yürürlüğe girmiş sözleşme olduğunu doğruladı. Ancak OpenAI'a konuyla ilgili sorular yöneltilmesinin ardından bu doğrulama geri çekildi ve Savunma Bakanlığı'nın konuyu incelemek için daha fazla zamana ihtiyaç duyduğu belirtildi.
Askeri yapay zeka yarışında nerede duruyoruz?
Tartışma, OpenAI'ın Pentagon ile şubat ayında vardığı ve gelişmiş yapay zeka sistemlerinin gizli askeri ağlarda kullanılmasına olanak tanıyan anlaşmanın ardından geliyor. Şirket bu anlaşmada üç temel sınır belirlediğini açıklamıştı: OpenAI teknolojisinin kitlesel yurt içi gözetimde kullanılmaması, otonom silah sistemlerini doğrudan yönlendirmemesi ve insan onayı gerektiren yüksek riskli kararları bağımsız biçimde almaması.
OpenAI ayrıca modellerin güvenlik katmanları kaldırılmış şekilde Pentagon'a sunulmayacağını ve güvenlik sistemlerinin kontrolünü elinde tutacağını belirtiyor. Şirketin açıklamasına göre Pentagon'a sunulan sistemler bulut üzerinden çalışıyor ve OpenAI'ın güvenlik mekanizmaları aktif kalıyor. Güvenlik yetkisine sahip OpenAI çalışanlarının da askeri kullanım süreçlerinde görev alması planlanıyor. Şirket, bu yapı sayesinde belirlediği kullanım sınırlarının ihlal edilip edilmediğini bağımsız olarak denetleyebileceğini savunuyor.
Belgeler, yapay zeka şirketleri ile Pentagon arasındaki ilişkinin yalnızca teknoloji tedarikiyle sınırlı olmadığını gösteriyor. Anlaşmalar kapsamında şirketlerin Pentagon'un ileri seviye yapay zeka stratejisinin şekillenmesine katkıda bulunması, buna karşılık Savunma Bakanlığı'nın operasyonel görevleri ve karşı karşıya olduğu tehditler hakkında bilgi edinmesi öngörülüyor.
Neden önemli
Bu tablo, savunma alanındaki yapay zeka tedarikinin iki katmanlı bir soruna işaret ettiğini gösteriyor. Bir yanda şirketlerin kamuya açıkladığı kullanım sınırları var; diğer yanda bu sınırların sözleşme metinlerine ne ölçüde yansıdığı sorusu. "Minimum ret oranı" gibi bir ifadenin taslakta yer alıp nihai metinden çıkarılmış olması, model davranışına dair teknik bir parametrenin doğrudan bir politika tercihine dönüşebildiğini gösteriyor.
İkinci boyut, şeffaflık mekanizmasının kendisiyle ilgili. FOIA talebinin taslakları değil imzalı sözleşmeleri hedeflemesi, yayımlanan belgenin taslak olarak işaretlenmemiş olması ve Adalet Bakanlığı avukatının doğrulamasını sonradan geri çekmesi, denetimin hem teknik hem hukuki katmanlarda ne kadar kırılgan olabileceğini ortaya koyuyor. OpenAI, Google, Anthropic ve xAI'nin 2025'te şirket başına 200 milyon dolara kadar ulaşabilecek anlaşmalarla askeri kullanıma yönelik prototipler geliştirmeye başladığı bir dönemde, bu tür belge tartışmaları sektörün tamamı için ortak bir hesap verebilirlik sorusu haline geliyor.
Sistemlerin lojistikten istihbarat analizine, askeri karar alma süreçlerinden operasyonel planlamaya kadar geniş bir alanda kullanılması hedefleniyor. Bu genişlik, model davranışına ilişkin her bir ifadenin — taslakta kalmış olsa bile — operasyonel ve etik sonuçları olabileceği anlamına geliyor.
