OpenAI, 15 Temmuz 2026'da, mevcut yapay zeka sistemlerindeki güvenlik açıklarını otomatik olarak keşfetmek için tasarlanmış yeni bir model olan GPT-Red'i duyurdu. GPT-Red, özellikle prompt enjeksiyonu saldırılarına karşı dayanıklı modeller geliştirmek amacıyla, saldıran ve savunan yapay zekaları karşı karşıya getiren bir iç sistem olarak çalışıyor.
Prompt enjeksiyonu, bir yapay zeka ajanının okuduğu verilere kötü niyetli komutlar yerleştirilerek ajanın orijinal talimatları görmezden gelip saldırganın yönergelerini takip etmesine neden olan bir saldırı türü. Geleneksel olarak bu tür zayıflıkları bulmak için 'red teaming' adı verilen, uzmanların sistemi saldırgan bakış açısıyla test ettiği bir süreç kullanılıyor. Ancak insanların saldırı yöntemleri tasarlaması ve test etmesi zaman alıcı ve model eğitimi için gereken çeşitlilik ve miktarda saldırı örneği üretmek zor.
GPT-Red, hedef yapay zekaya promptlar gönderiyor, yanıtlarını gözlemliyor ve deneme-yanılma yoluyla saldırı yöntemini tekrar tekrar değiştirerek istenen arızaya neden olacak bir yol arıyor. Model, kendi kendine oyun (self-play) takviyeli öğrenme ile eğitiliyor; bu sırada hem saldıran hem de savunan taraf aynı anda eğitiliyor. GPT-Red, başarılı prompt enjeksiyonları için ödül alırken, savunan taraftaki birden fazla LLM, saldırıları reddederken orijinal görevlerini tamamladıkları için ödül alıyor.
OpenAI, GPT-Red'in eğitimi için büyük ölçekli post-training programlarında kullanılan hesaplama kaynaklarına benzer miktarda kaynak harcadığını belirtiyor. Eğitim tamamlandıktan sonra GPT-Red, GPT-5.5'e kadar neredeyse tüm rakiplerini yenmeyi başardı. OpenAI, GPT-Red tarafından üretilen saldırıları GPT-5.6'yı eğitmek için kullanacak ve GPT-Red'in saldırı yeteneklerinin dışarıya sağlanmaması için ürün modelinden ayrı tutulacağını açıkladı.
Değerlendirmelerde, GPT-Red'in bilinmeyen saldırı ortamlarına karşı yeteneği test edildi. GPT-5.1'e karşı dolaylı prompt enjeksiyonları oluşturan GPT-Red, değerlendirme senaryolarının %84'ünde başarılı olurken, insan kırmızı takımının başarı oranı %13'te kaldı. Ayrıca, gerçek bir ortamda çalışan AI ajanı 'Vendy'ye (Andon Labs tarafından geliştirilen, OpenAI ofisindeki otomatları yöneten bir ajan) yapılan saldırılarda, GPT-Red yüksek fiyatlı ürünlerin fiyatını 0,50 dolara düşürmeyi, 100 doların üzerindeki yeni ürünleri 0,50 dolara satmayı ve diğer müşterilerin siparişlerini iptal etmeyi başardı. OpenAI, keşfedilen güvenlik açıklarını ilgili taraflara bildirdi ve yeni güvenlik önlemlerinin test edildiğini duyurdu.
GPT-Red ayrıca GPT-5.4 mini tabanlı Codex CLI ajanlarına da saldırdı. Eğitimde yer almayan 10 veri sızdırma senaryosunda, GPT-Red normal promptlu GPT-5.5'ten daha fazla senaryoda hassas verileri sızdırmayı başardı ve daha az token kullandı.
GPT-Red tarafından keşfedilen saldırılar, ürün modellerinin güvenliğini artırmak için eğitim verisi olarak kullanılıyor. Örneğin, GPT-Red'in erken bir sürümü tarafından keşfedilen 'Fake Chain-of-Thought' saldırısı, GPT-5.1'e karşı %95'in üzerinde başarı elde ederken, GPT-5.6 Sol'a karşı başarı oranı %10'un altına düştü. GPT-5.6, geliştirme araçları ve web tarama işlevlerini hedef alan birden fazla dolaylı prompt enjeksiyonu değerlendirmesinde %97'nin üzerinde doğruluk elde etti. GPT-5.6'da prompt enjeksiyonu başarı oranı yaklaşık %3,8'e, talimat hiyerarşisi ihlali başarı oranı ise yaklaşık %0,05'e düştü.
OpenAI, GPT-Red'in tek başına AI güvenliğini sağlayamayacağını belirtiyor. Şirket, GPT-Red'i insan veya üçüncü taraf kırmızı takım çalışmaları, çok katmanlı güvenlik önlemleri ve gerçek zamanlı izleme ile birleştirerek tamamlayıcı bir mekanizma olarak kullanmayı planlıyor. Gelecekte, hesaplama kaynaklarını ve eğitim verilerini genişletmeyi ve mevcut GPT-Red'den daha güçlü saldırgan yapay zekalar geliştirmeyi hedefliyor.
Neden önemli
GPT-Red, yapay zeka güvenliğinde önemli bir dönüm noktası. İnsan red teaming'inin zaman alıcı ve ölçeklenebilirlik sorunlarına karşı, otomatik ve sürekli bir zayıflık keşif döngüsü sunuyor. GPT-Red'in GPT-5.5'e kadar neredeyse tüm modelleri yenmesi ve gerçek dünya ajanlarını başarıyla hedef alması, bu yaklaşımın etkinliğini gösteriyor. Ancak OpenAI'nin de kabul ettiği gibi, bu tek başına yeterli değil; insan denetimi ve çok katmanlı savunmalar hala kritik. GPT-Red'in keşfettiği açıkların GPT-5.6 gibi yeni modellerin eğitiminde kullanılması, güvenlikte sürekli iyileştirme için bir yol haritası sunuyor. Bu, yapay zeka sistemlerinin kendi kendini iyileştirebildiği bir geleceğe işaret ediyor.
