Yapay zeka hizmetlerinin, kullanıcıların bilgisayarlarını veya telefonlarını birer botnet ağına dönüştürebilecek şekilde manipüle edilebileceği ortaya çıktı. Intuit, Technion ve Tel Aviv Üniversitesi araştırmacıları tarafından keşfedilen HalluSquatting adlı yöntem, büyük ölçekli saldırılara kapı aralıyor.
HalluSquatting, yapay zeka modellerinin hatalı bilgi üretme eğiliminden (halüsinasyon) yararlanıyor. Geleneksel yazım hatalarından faydalanan typosquatting saldırılarına benzer bir mantıkla çalışıyor.
HalluSquatting nasıl çalışıyor?
Araştırmacılar, büyük dil modellerinin kaynakları veya depoları tanımlarken yüzde yüz doğrulukla hareket edemediğini belirtiyor. Bu zayıflığı kullanan saldırganlar, yapay zekanın yanlış tahmin edebileceği kaynakları önceden kaydederek sisteme sızıyor.
Saldırganlar, yapay zekanın hatalı bir şekilde yönlendirilebileceği bir kaynağı ele geçirdiğinde, buraya zararlı komutlar yerleştiriyor. Kullanıcı bu kaynağı tetiklediğinde, yapay zeka istemeden zararlı içeriği çalıştırıyor ve saldırı süreci başlıyor. Bu yöntem, geleneksel kod enjeksiyonu ile yapay zeka tabanlı manipülasyonları birleştiriyor. Araştırmacılar, bu teknikle uzaktan kod yürütme ve araç kontrolü gibi kritik yetkilere erişilebildiğini vurguluyor.
Etkilenen popüler yapay zeka araçları
Yapılan testlerde Cursor, Cursor CLI, Windsurf, GitHub Copilot ve Cline gibi popüler kodlama asistanlarının bu saldırı türüne karşı savunmasız olduğu görüldü. Ayrıca Gemini CLI, OpenClaw, ZeroClaw ve NanoClaw gibi araçlar da risk altında bulunuyor.
Bu saldırı türü, cihazların birer botnet zombisine dönüştürülmesine veya geniş çaplı fidye yazılımı kampanyalarının başlatılmasına neden olabiliyor. Uzmanlar, JADEPUFFER gibi doğrudan yapay zeka tarafından yönetilen fidye yazılımlarının zaten sahada görüldüğüne dikkat çekiyor.
Neden önemli
HalluSquatting, yapay zeka araçlarının güvenilirliğine yönelik yeni bir saldırı vektörü oluşturuyor. Geleneksel güvenlik önlemleri, yapay zekanın halüsinasyonlarından kaynaklanan bu tür zafiyetleri kapatmakta yetersiz kalabilir. Güvenlik önlemleri arasında geliştiricilerin veri çekme işlemlerini kısıtlaması ve kaynak sahiplerinin daha katı isimlendirme kuralları uygulaması yer alıyor. Ancak bu tür çözümlerin farklı taraflar arasında iş birliği gerektirmesi nedeniyle uygulanmasının zaman alacağı ifade ediliyor.
Bu durum, özellikle yapay zeka destekli kodlama araçlarını yoğun kullanan geliştiriciler ve kurumlar için acil bir tehdit oluşturuyor. Saldırganların botnet ağları oluşturmak veya fidye yazılımı yaymak için bu yöntemi kullanması, siber güvenlik ekosisteminde yeni bir mücadele alanı açıyor.
