Sedai, AI Ajanları İçin Otonom Optimizasyon Platformunu Başlattı

Sedai, bugün AI Agent Optimization adını verdiği yeni platformunu duyurdu. Şirket, bunun AI ajanlarını otonom olarak optimize eden ilk platform olduğunu belirtiyor. Platform, kurumsal mühendislik ekiplerine AI ajanları ve büyük dil modeli (LLM) çağrıları üzerinde merkezi yönetişim, gerçek zamanlı gözlemlenebilirlik ve akıllı model yönlendirme sunuyor.

Sedai'nin CEO'su ve Kurucusu Suresh Mathew, "Çoğu mühendislik ekibi AI modellerini veriye değil, sezgilerine göre seçiyor. Bunun sonucu olarak ekipler hızla yükselen AI maliyetlerini kontrol edemiyor ve modeller değiştikçe hızına yetişemiyor" dedi. Sedai'nin bu sorunu altyapı seviyesinde, otonom olarak ve mühendislik ekiplerinin çalışma şeklini değiştirmelerini gerektirmeden çözdüğünü ekledi.

Platform, kuruluşların ajanları ile LLM sağlayıcıları arasında şeffaf bir katman olarak çalışıyor. Mevcut koda minimum kesintiyle dağıtılıyor ve mühendislik ekiplerinin halihazırda kullandığı araçlarla entegre oluyor. GSK, KnowBe4 ve Informed gibi kuruluşlar Sedai'yi AI ajan stratejilerini optimize etmek için kullanmaya başladı bile.

Platformun Temel Özellikleri

Sedai for AI Agent Optimization dört ana özellik sunuyor:

• Yönetişim: Organizasyon ve proje seviyesinde iki kademeli model erişim kontrolü, model bazında geri dönüş yönlendirmesi (çapraz sağlayıcı dahil) ve API anahtarı yönetimi. Tüm bunlar geliştiricilerin öz denetimine güvenmeden otomatik olarak uygulanıyor.
• Gözlemlenebilirlik: Tüm sağlayıcılar, projeler ve modeller arasında gerçek zamanlı maliyet, token ve gecikme görünürlüğü. Çapraz sağlayıcı detaylandırma, anomali tespiti ve ekip/proje bazında kullanım atıflaması.
• Akıllı Yönlendirme: Her ajanın gerçek üretim sorgularına göre otomatik, trafik farkında model yönlendirmesi. Doğruluktan ödün vermeden gecikme ve token maliyeti optimizasyonu sağlıyor.
• Güvenilirlik: Varsayılan olarak otomatik yeniden denemeler, çapraz sağlayıcı geri dönüşler ve yük dengeleme. Ekiplerin bu altyapıyı bağımsızca yeniden inşa etmesini gerektirmiyor.

Kurumsal AI'ın Kritik Zorluğu

İşletmeler artık ürünlerini oluşturmak ve çalıştırmak için AI'ya bağımlı olsa da, maliyetlerin kontrolden çıkmaması için AI kullanımlarını yönetmekte zorlanıyor. Mühendislik ekipleri bağımsız olarak modeller seçiyor ve kendi güvenilirlik mantıklarını yönetiyor; çoğu zaman neyin kullanıldığına veya ne kadara mal olduğuna dair merkezi bir gözetim olmuyor. Sonuç, parçalanmış LLM kullanımı, kontrolsüz harcama ve organizasyon genelinde tekrarlanan işler oluyor.

Sorunu daha da karmaşık hale getiren şey, model ortamının herhangi bir ekibin takip edebileceğinden daha hızlı değişmesi. Her hafta yeni modeller piyasaya sürülüyor. Geçen çeyrekte dolar başına en iyi performansı sunan bir model, bugün iki kat daha pahalı olabiliyor veya doğrulukta önemli ölçüde daha düşük puan alabiliyor. Düzinelerce ajan ölçeğinde manuel yeniden değerlendirme mümkün değil.

GSK'da Kıdemli Mühendislik Direktörü Mohamed Khalid, "AI ajanları artık kurumsal dünyada olmazsa olmaz. Gerçek farklılaştırıcı, onları ne kadar iyi optimize ettiğinizdir" dedi. "Sedai'nin her ajanı görev için doğru temel modele otomatik olarak yönlendirerek, basit işler için aşırı mühendislik ürünü çözümlere bütçe yakmamızı ve en kritik iş akışlarımızın her zaman en iyi araçlara sahip olmasını sağlamasını bekliyoruz" diye ekledi.

Sedai'nin Farklı Yaklaşımı

Çoğu model yönlendirme aracı, hangi modelin kullanılacağına karar vermek için genel kamuya açık kıyaslamalara güvenir. Sedai farklı bir yaklaşım benimsiyor. Her kuruluşun gerçek üretim trafiğini analiz ediyor, sorguları tür ve göreve göre otomatik olarak gruplandırıyor ve her grup için en iyi modeli buluyor. Örneğin, bir müşteri hizmetleri ajanı karmaşık fatura sorguları için bir model, rutin sorgular için daha hızlı ve daha ucuz bir model kullanabilir.

Model kalitesini ölçmek için Sedai, her kuruluştan gelen insan geri bildirimi üzerine özel bir AI yargıcı eğitiyor. Bu, model performansının her şirketin kendi standartlarına göre değerlendirilmesi anlamına geliyor; gerçek iş yükleriyle ilgisi olmayan tek tip bir kıyaslama yerine. Sedai daha sonra pazara yeni modeller girdikçe değerlendirme sürecini sürekli tekrarlıyor, böylece ajanlar manuel çaba gerektirmeden zaman içinde optimize kalıyor.

KnowBe4'te Mühendislik Başkan Yardımcısı Matt Duren, "2026'da bir mühendislik yöneticisi olarak, AI'daki ilerlemelerde önde olduğumuzdan emin olmak benim işim. Sorun şu ki, KnowBe4 platformu genelinde ajanlarımız var ve her ajanın kendi hedefleri var. İnsan mühendislerin her kullanım durumu için en uygun modeli seçmesi inanılmaz derecede zaman alıcı. Bu arada, yeni model sürümlerine büyük ölçekte ayak uydurmak, bir ekibin zamanını hızla tüketebilir ve inovasyonu engelleyebilir. Sedai'nin devreye girdiği yer burası" dedi.

Neden Önemli

Sedai'nin bu hamlesi, kurumsal AI harcamalarının kontrolsüz bir şekilde arttığı bir döneme denk geliyor. Ortalama büyük işletme artık AI modellerine yıllık 11,6 milyon dolar harcıyor — 2024'teki 4,5 milyon dolardan önemli bir artış. Bazı Fortune 500 şirketleri, bulut altyapı maliyetleri dahil edildiğinde yılda 100 milyon doları aşıyor. Çoğu kuruluş, bu modellerin ekipler arasında nasıl seçildiği, kullanıldığı veya optimize edildiği konusunda merkezi bir görünürlüğe veya kontrole sahip değil. Sedai, hem AI model yönlendirmesini hem de altta yatan bulut altyapısını optimize ederek AI maliyet denkleminin her iki tarafını da ele alan tek platform olduğunu iddia ediyor. Bu, şirketlerin tek bir platformdan daha düşük AI çıkarım maliyetleri ve daha düşük bilgi işlem maliyetleri elde edebileceği anlamına geliyor. Platform şu anda erken erişimde; genel kullanıma sunumun 2026'nın ilerleyen aylarında yapılması planlanıyor.