Microsoft, yapay zeka altyapısını daha verimli kullanmak için yeni bir strateji üzerinde çalışıyor. Şirket, pahalı ve hesaplama yoğun "frontier" modelleri (örneğin GPT-4, Claude gibi en gelişmiş büyük dil modelleri) yalnızca gerektiğinde devreye alan bir sistem geliştiriyor.
Bu yaklaşım, her kullanıcı sorgusunu en güçlü modele yönlendirmek yerine, bir "yönlendirici" (router) modelin sorgunun karmaşıklığını değerlendirerek uygun modeli seçmesine dayanıyor. Basit işlemler için daha küçük ve ucuz modeller kullanılırken, yalnızca karmaşık akıl yürütme veya yaratıcı görevler gerektiren durumlarda en pahalı modeller çağrılacak.
Microsoft'un bu hamlesi, yapay zeka hizmetlerinin işletme maliyetlerini önemli ölçüde azaltmayı hedefliyor. Şirket, bu sayede hem kendi ürünlerinde (Copilot, Azure AI gibi) hem de bulut müşterilerine sunduğu hizmetlerde maliyetleri optimize etmeyi planlıyor.
Sistemin temelinde, sorguları analiz eden ve hangi modelin kullanılacağına karar veren bir "akıllı yönlendirme" katmanı bulunuyor. Bu katman, sorgunun dilbilimsel karmaşıklığı, gereken uzmanlık alanı ve hesaplama ihtiyacı gibi faktörleri değerlendiriyor.
Neden önemli
Bu strateji, yapay zeka endüstrisinde artan maliyet baskısına doğrudan bir yanıt niteliği taşıyor. Frontier modellerin eğitimi ve çalıştırılması milyarlarca doları bulurken, her sorguda bu modelleri kullanmak sürdürülebilir olmaktan çıkıyor. Microsoft'un bu yaklaşımı, sektördeki diğer büyük oyuncular için de bir model oluşturabilir. Eğer başarılı olursa, yapay zeka hizmetlerinin fiyatlandırmasında ve erişilebilirliğinde önemli değişikliklere yol açabilir. Ayrıca, daha küçük ve verimli modellerin geliştirilmesine olan talebi artırarak, model optimizasyonu alanında yeni araştırmaları teşvik edebilir.
