OpenAI, Astra adlı yapay zeka modelinin siber saldırı yeteneklerinde 'kritik bir eşiği' geçmesinin ardından üzerindeki çalışmaları durdurdu. Şirket, modelin 'tüm ciddiyet seviyelerinde işlevsel sıfırıncı gün açıkları geliştirebildiğini' belirtti.
Sıfırıncı gün açıkları, yazılım üreticilerinin henüz haberdar olmadığı ve yama çıkaramadığı güvenlik açıkları anlamına geliyor. Bu tür açıklar, siber saldırganlar tarafından sistemlere sızmak için kullanılabiliyor ve genellikle yüksek değer taşıyor.
IT Pro'nun haberine göre OpenAI, bu eşiğin aşılmasının ardından Astra'nın geliştirilmesini geçici olarak durdurdu. Ancak haber, Astra'nın Hugging Face'e yapılan ve bu modelle ilişkilendirilen siber saldırıdan sorumlu olmadığını da vurguluyor. Saldırıyı gerçekleştiren modelin farklı olduğu ifade ediliyor.
Astra'nın siber yetenekleri, yapay zeka modellerinin kötüye kullanım potansiyeline ilişkin endişeleri yeniden gündeme getirdi. Özellikle büyük dil modellerinin (LLM) otomatik olarak güvenlik açığı keşfedip istismar edebilmesi, siber güvenlik alanında hem savunma hem de saldırı açısından yeni bir dönemin habercisi olarak değerlendiriliyor.
OpenAI'ın bu hamlesi, yapay zeka geliştiricilerinin güvenlik risklerini yönetme konusunda attığı dikkat çekici adımlardan biri olarak öne çıkıyor. Şirketin, modelin yeteneklerini değerlendirip gerekli önlemleri aldıktan sonra çalışmalara devam edip etmeyeceği ise henüz bilinmiyor.
Neden önemli
Bu gelişme, yapay zeka modellerinin siber saldırı yeteneklerinin ne kadar ileri düzeye ulaştığını gösteriyor. OpenAI'ın Astra'yı durdurması, şirketin bu tür yeteneklerin kontrolden çıkmasını engellemeye yönelik bir önlem olarak okunabilir. Ancak bu, aynı zamanda yapay zeka destekli siber saldırıların artık yalnızca teorik bir tehdit olmadığını, gerçek dünyada test edilen ve kullanılan bir araç haline geldiğini ortaya koyuyor.
Hugging Face'e yapılan saldırının Astra ile bağlantısının kurulmamış olması, bu tür modellerin hangi amaçlarla kullanıldığının takibinin ne kadar zor olduğunu da gösteriyor. Yapay zeka modellerinin yetenekleri ile gerçek dünyadaki kullanımları arasındaki ilişki, güvenlik araştırmacıları ve politika yapıcılar için giderek daha kritik bir soru haline geliyor.
