Moonshot AI, Kimi K3 modelinin ağırlıklarını ücretsiz olarak yayınladı. Blog yazısı ve API dokümantasyonunun ardından gelen bu hamle, çoğu kişinin mevcut AI GPU'larıyla modeli çalıştırmasına ve kısıtlı koşullarla ücretlendirmesine olanak tanıyor.
Şirketin kıyaslamalarına göre Kimi K3, önceki nesil Claude ve GPT modellerini geride bırakırken, Claude Fable ve GPT-5.6 Sol'a yakın performans gösteriyor. Dahası, çalıştırma maliyeti 2-3 kat daha düşük; önbelleğe alınmış sorgularda ise 10 kata kadar avantaj sağlanabiliyor.
Moonshot, çıkarım maliyeti karşılaştırmalarında kendi iç maliyetlerini diğer şirketlerin halka açık token fiyatlandırmasıyla kıyasladığını belirtiyor. Kimi K3 için giriş token'ları milyon başına 3 dolar. Fable için bu rakam 10 dolar, Sol için ise 5 dolar. Önbellekleme yapısı kodlama görevlerinde %90 isabet oranına sahip ve bu durumda maliyet 0,30 dolara düşüyor. Çıkış token'larında da benzer bir tablo var.
Kimi K3'ün verimliliğinin ardında, ağırlıklar için MXFP4 ve girdi aktivasyonları için MXFP8 gibi düşük hassasiyetli veri türlerinin kullanılması yatıyor. 2,8 trilyon parametreye sahip modelde her seferinde yalnızca 104,2 milyar parametre aktif hale geliyor. Moonshot, modeli Nvidia H20 gibi düşük seviyeli bir çipte çalıştırdığını belirtiyor; bu çip, MXFP türlerini yerel olarak desteklemiyor. Bu durum, Kimi K3'ün düşük donanımlarda bile çalışabileceğini, ancak Blackwell gibi daha yeni çiplerde daha da verimli olabileceğini gösteriyor.
Model, geleneksel KV önbelleği yerine sabit boyutlu Kimi Delta Attention mekanizmasını kullanıyor. Ayrıca, 896 uzmandan yalnızca 16'sını aynı anda etkinleştiren seyrek bir uzman karışımı (MoE) mimarisine sahip. Tüm bu optimizasyonlar, çıkarım maliyetini düşürmeye yönelik.
Neden önemli
Kimi K3'ün açık ağırlıklı olarak yayınlanması, OpenAI ve Anthropic gibi kapalı kaynak şirketler için ciddi bir rekabet tehdidi oluşturuyor. Neredeyse aynı performansı çok daha düşük maliyetle sunan bir modelin herkes tarafından kullanılabilmesi, yapay zeka pazarında fiyat savaşlarını tetikleyebilir. Ancak açık ağırlıklı olmanın açık kaynak anlamına gelmediğini belirtmek gerek; eğitim süreci ve veri seti hâlâ Moonshot'a ait.
