OpenAI, ChatGPT için 'Lockdown Mode' adını verdiği yeni bir güvenlik özelliğini duyurdu. Şirket, bu modun özellikle prompt injection saldırılarına karşı koruma sağlamak amacıyla tasarlandığını belirtiyor. Prompt injection, kötü niyetli talimatların içeriğe gömülerek yapay zeka asistanının kontrolünü ele geçirmeye çalıştığı bir siber saldırı türü olarak tanımlanıyor.
Lockdown Mode, adından da anlaşılacağı gibi, ChatGPT'nin işlevselliğini kısıtlayan bir mod. OpenAI'in blog yazısında belirttiğine göre, bu mod otomatik olarak tetiklenen bir kilitlenme değil, kullanıcının hassas verilerle çalışırken gönüllü olarak girdiği bir 'panik odası' niteliği taşıyor. Mod etkinleştirildiğinde ChatGPT'nin şu özellikleri devre dışı kalıyor:
- Web'de gezinme
- Yanıtlarda görsel gösterme (ancak görsel oluşturma ve yükleme mümkün)
- 'Deep Research' yapma
- Ajan ağı olarak çalışma
- Canvas kod oluşturucu
- Dosya indirme
OpenAI, Lockdown Mode'un herkes için tasarlanmadığını, özellikle hassas veri işleyen kişi ve kuruluşların prompt injection kaynaklı veri sızıntısı risklerine karşı daha sıkı koruma sağlamayı hedeflediğini vurguluyor.
Neden önemli
Prompt injection saldırıları, yapay zeka sistemlerinin giderek daha fazla yetkiyle donatılmasıyla birlikte ciddi bir güvenlik tehdidi haline geliyor. Bir kullanıcının adına uçak bileti satın alabilen veya e-posta gönderebilen bir AI asistanının kötü niyetli talimatlarla ele geçirilmesi, veri hırsızlığının ötesinde doğrudan maddi zararlara yol açabilir. Lockdown Mode, bu tür saldırılara karşı bir savunma mekanizması sunsa da, aslında daha temel bir sorunu işaret ediyor: Hassas verilerin bir sohbet robotuna emanet edilmesi. OpenAI'in bu özelliği, güvenlik endişelerinin ürün tasarımını nasıl şekillendirdiğini gösteriyor, ancak en güvenli 'lockdown' yönteminin hassas verileri hiçbir zaman bir yapay zeka modeline yaklaştırmamak olduğu da unutulmamalı.
