OpenAI, yapay zeka modellerinin güvenliğini artırmak için kendi modellerini birbirine karşı kullandığı yeni bir sistemi duyurdu: GPT-Red. Sistem, insan odaklı kırmızı takım (red-teaming) çalışmalarının ölçeklenebilirlik sorununu çözmeyi hedefliyor.
Kırmızı takım çalışmaları, modellerin zayıf yönlerini bulmak için kritik olsa da insan odaklı süreçler zaman alıcı ve çeşitlilik açısından sınırlı kalıyor. OpenAI, mevcut modellerinin güvenlik değerlendirmelerini çoktan doyurduğunu ve daha ölçeklenebilir bir yaklaşıma ihtiyaç duyulduğunu belirtiyor.
GPT-Red Nasıl Çalışıyor?
GPT-Red, kendi kendine oyun (self-play) takviyeli öğrenme ile eğitiliyor. Sistem, prompt injection gibi saldırıları başarıyla gerçekleştirdiğinde ödüllendirilirken, savunma modelleri bu saldırılara direnmek ve asıl görevlerini yerine getirmek için eğitiliyor. Bu dinamik, GPT-Red'in sürekli olarak daha karmaşık saldırı vektörleri keşfetmesini sağlıyor.
OpenAI, GPT-Red'i GPT-5.6 Sol'un adversarial eğitiminde kullandı. Sonuçlar, modelin doğrudan prompt injection kıyaslamalarında dört ay önceki selefine göre altı kat daha az başarısızlık gösterdiğini ortaya koyuyor.
Etkileyici Saldırı Başarısı
GPT-Red, karşısına çıkan neredeyse tüm modelleri kırmayı başarıyor. Yeni güvenlik ortamlarında yapılan testlerde %84 başarı oranına ulaşırken, insan kırmızı takım üyeleri yalnızca %13 başarı elde edebildi. Örnek vakalarda GPT-Red, yapay zeka destekli bir otomatik satış makinesini fiyatları değiştirmeye ikna etti ve bir Codex CLI ajanından hassas verileri sızdırmayı başardı.
Neden Önemli
GPT-Red, yapay zeka güvenliğinde ölçeklenebilirlik sorununa somut bir çözüm sunuyor. İnsan kırmızı takım çalışmalarının darboğazını aşarak, modellerin yetenekleriyle orantılı bir güvenlik seviyesi yakalanmasını mümkün kılıyor. OpenAI, GPT-Red'in genel yeteneklerden ödün vermediğini, aksine modellerin kötü niyetli komutlara karşı gerçek bir direnç kazandığını vurguluyor. Şirket, daha güçlü GPT-Red sürümleri eğiterek bu yaklaşımı ölçeklendirmeyi planlıyor ve yakında bir ön baskı yayınlayacak.
