Brex, otonom yapay zeka ajanlarının API'lere, kimlik bilgilerine ve çevrimiçi hizmetlere erişimini kontrol etmek için geliştirdiği CrabTrap adlı güvenlik platformunu açık kaynak olarak yayınladı. Platform, Brex'in OpenClaw gibi ajan çerçevelerini operasyonlarında kullanmaya başlamasıyla ortaya çıkan güvenlik ihtiyacını karşılamak üzere tasarlandı.
CrabTrap, bir HTTP ve HTTPS proxy'si olarak çalışıyor ve ajan ile her giden ağ isteği arasında konumlanıyor. Trafiği önceden tanımlanmış politikalara göre inceleyerek bir isteğin onaylanıp onaylanmayacağına karar veriyor. Kullanıcılar, HTTP_PROXY ve HTTPS_PROXY ortam değişkenlerini yapılandırarak ajan trafiğini CrabTrap üzerinden yönlendirebiliyor. Bu sayede farklı programlama dilleri, çerçeveler ve API'lerle çalışabiliyor; ayrı SDK entegrasyonları gerektirmiyor.
Sistem, deterministik kuralları, bilinen trafik kalıplarının dışındaki istekleri değerlendiren bir yapay zeka modeliyle birleştiriyor. Brex, AI yargıcının, ajan öngörülebilir bir davranış sergiledikten sonra isteklerin %3'ünden daha azında devreye girdiğini belirtiyor. Ayrıca, ajanlar gölge modunda çalışırken geçmiş ağ trafiğini inceleyen ve ajanların gerçek davranışlarına göre doğal dil politikaları hazırlayan bir politika oluşturucu da mevcut. Bir değerlendirme sistemi, önerilen politika değişikliklerini dağıtımdan önce önceki trafikle karşılaştırıyor. CrabTrap, tam denetim günlükleri tutuyor ve tekrarlanan reddetmeleri işaretleyerek bir kişi veya başka bir ajanın güncellenmiş bir politika önermesine olanak tanıyor.
Geliştirme sırasındaki en büyük zorluklardan biri prompt injection saldırılarıydı. AI yargıcı, kullanıcı kontrollü bilgiler içeren HTTP istekleri aldığından, kötü niyetli bir URL, başlık veya istek gövdesi kararını manipüle etmeye çalışabilirdi. Brex, bu sorunu istekleri modele iletmeden önce yapılandırılmış JSON'a dönüştürerek ve kullanıcı kontrollü içeriğin ham metin olarak eklenmesini engelleyerek çözdü.
Neden önemli
CrabTrap, otonom AI ajanlarının API anahtarları ve OAuth token'ları gibi hassas kimlik bilgilerine erişimini güvence altına almak için pratik bir çözüm sunuyor. Geleneksel model korkulukları ve araç izinlerinin yetersiz kaldığı bir alanda, ajan davranışını ağ düzeyinde denetleyen bir proxy yaklaşımı, kurumsal benimseme için kritik bir güvenlik katmanı sağlıyor. Brex'in bu aracı açık kaynak olarak yayınlaması, diğer kuruluşların da benzer güvenlik önlemlerini uygulamasını kolaylaştırabilir. Ayrıca, denetim günlüklerinin gereksiz araç ve token kullanımını tespit etmeye yardımcı olması, operasyonel verimlilik açısından da değerli.
