Thinking Machines, ilk açık kaynak yapay zeka dil modeli Inkling'i piyasaya sürmesinden sadece iki hafta sonra, daha küçük kardeşi Inkling Small'ı tanıttı. Şirketin iddiasına göre yeni model, büyük ölçüde performans kaybı yaşatmadan daha kompakt bir yapı sunuyor ve bazı kıyaslamalarda selefini geride bırakıyor.
Inkling Small, 276 milyar parametreli, çok modlu (multimodal) bir akıl yürütme modeli. Apache 2.0 lisansıyla yayımlanan model, metin, görüntü ve ses girdilerini işleyebiliyor; metin üretiyor ve bir milyon token'a kadar bağlam penceresi destekliyor. Buna karşılık, orijinal Inkling 975 milyar parametreye sahip. Inkling Small, token başına 12 milyar aktif parametre kullanırken, Inkling'de bu rakam 41 milyar. Böylece model, hesaplama gereksinimlerini, çıkarım maliyetlerini ve dağıtım ayak izini azaltıyor.
Üçüncü taraf değerlendirme platformu Artificial Analysis'ın Zeka Endeksi'nde (Intelligence Index) Inkling Small 40 puan alırken, Inkling 41 puan aldı. Bu sonuç, modelin boyutuna göre dikkat çekici. Artificial Analysis ayrıca, Inkling Small'ın boyutunda veya daha küçük hiçbir açık ağırlıklı modelin bu endekste daha yüksek puan alamadığını bildirdi.
Inkling Small, bazı değerlendirmelerde ise büyük kardeşini geçiyor. Şirket verilerine göre SWE-bench Verified'da %80,2 (Inkling %77,6), Terminal Bench 2.1'de %64,7 (Inkling %63,8) skor elde ediyor. Ayrıca SciCode, Humanity's Last Exam, GPQA Diamond ve CritPt'de de önde. Ancak kazanımlar evrensel değil: Inkling, gerçek bilgi ve bazı ajan görevlerinde açık bir üstünlüğe sahip. Inkling Small, τ³-Banking'de %15,5 alırken Inkling %23,7 alıyor; AA Omniscience skoru ise negatif. Bu, daha zayıf gerçek bilgi kapsamına işaret ediyor, ancak bildirilen halüsinasyon oranı biraz daha düşük.
Nasıl çalışıyor?
Inkling Small, seyrek bir Uzman Karışımı (Mixture-of-Experts) modeli. Model kartına göre, 42 katmanlı kod çözücü (decoder) her token'ı 256 uzmandan altısına ve her token için aktif kalan iki ortak uzmana yönlendiriyor. Bu mimari, 276 milyar toplam parametre ile 12 milyar aktif parametre arasındaki farkı açıklıyor. Model, görüntü, ses ve metni ortak bir temsile yansıtıp kod çözücüde birlikte işliyor. Ayrıca değişken akıl yürütme çabası (variable reasoning effort) desteği sunuyor; geliştiriciler, görevin zorluğuna göre test zamanı hesaplamasını artırıp azaltabiliyor.
Küçük ama dizüstü bilgisayarda çalışmıyor
Adına rağmen Inkling Small, tüketici ölçeğinde bir model değil. Standart BF16 kontrol noktası en az 600 GB toplam GPU belleği gerektiriyor. Şirket iki desteklenen yapılandırma listeliyor: 4x NVIDIA B300 GPU veya 8x NVIDIA H200 GPU. Nicelenmiş NVFP4 kontrol noktası ise gereksinimi yaklaşık 180 GB toplam VRAM'e düşürüyor; bu sürüm tek bir NVIDIA B300'de W4A4 modunda veya iki H200 GPU'da W4A16 modunda çalışabiliyor. Bu, sıradan dizüstü bilgisayarları, MacBook'ları ve çoğu geliştirici iş istasyonunu devre dışı bırakıyor. Pratik dağıtım hedefleri kurumsal GPU sunucuları, bulut kümeleri ve özel çıkarım sağlayıcıları.
Lisans ve fiyatlandırma
Inkling Small, Apache 2.0 lisansıyla yayımlanıyor. Bu, kuruluşların modeli ticari ürünlerde kullanmasına, değiştirmesine, ince ayar yapmasına ve yeniden dağıtmasına izin veriyor. Bu, gelir eşikleri veya marka yükümlülükleri getiren bazı özel "açık" lisanslara kıyasla daha esnek.
Şirket, lansmanda sınırlı süreli %50 indirim sunuyor. Standart 64K bağlamlı Inkling Small API fiyatlandırması: milyon başına 0,58 dolar ön doldurma (girdi) token'ı, 1,44 dolar örneklenen (çıktı) token'ı ve 1,73 dolar eğitim token'ı. Önbelleğe alınmış ön doldurma istekleri milyon token başına 0,116 dolar. 256K bağlamlı bir varyant da daha yüksek fiyatlarla sunuluyor.
Neden önemli
Inkling Small'ın çıkışı, Thinking Machines'in model geliştirme sürecini tek seferlik bir araştırma projesinden tekrarlanabilir bir boru hattına dönüştürdüğünü gösteriyor. Araştırmacı Horace He, X'te yaptığı paylaşımda, Inkling'in sürümünün bir köy gerektirdiğini hissettiğini, ancak Inkling Small'ın rutin olduğunu belirtti: "Inkling için kullanılan boru hattını aldık, daha küçük bir model geçtik ve işte yeni model!" Şirket, Inkling Small'ın geliştirilmiş ön eğitim veri karışımı, makine öğrenimi tarifi değişiklikleri ve Inkling'i öğretmen olarak kullanan on-policy distilasyondan faydalandığını söylüyor. Ayrıca iki hafta boyunca ajan kodlama takviyeli öğrenmesi yapıldı.
Bu, açık ağırlıklı çok modlu sistemlerin daha rutin üretilebileceği bir dönemin sinyali. Kuruluşlar için ise, en yüksek kıyaslama puanını kovalamaktan ziyade veri kontrolü, model davranışı ve ince ayar üzerinde kontrol sağlamak daha önemli olabilir. Inkling Small, neredeyse aynı ölçülen zeka, daha düşük token fiyatlandırması ve daha küçük donanım ayak izi ile cazip bir denge sunuyor.
