NVIDIA, 17 Temmuz 2026'da yayımladığı teknik blog yazısıyla Vera Rubin platformunun post-training iş yüklerindeki maliyet avantajını detaylandırdı. Şirket, yedi çipli kod tasarımı (codesign) stratejisiyle, özellikle sürekli pekiştirmeli öğrenme (RL) döngüleri ve ajan tabanlı çıkarım için token başına en düşük maliyeti sunduğunu iddia ediyor.
Vera Rubin NVL72 rafı, Rubin GPU başına 22 TB/s HBM4 bant genişliği sunuyor — Blackwell'in 8 TB/s'ine göre 2.8 kat artış. NVLink 6 ise GPU başına 3.6 TB/s çift yönlü bant genişliği sağlıyor (Blackwell'de 1.8 TB/s). NVIDIA'ya göre bu rakamlar, büyük karma uzman modellerinin (MoE) eğitiminde Blackwell'e kıyasla dörtte bir GPU kullanımı ve çıkarım token maliyetinde onda bir azalma anlamına geliyor. Bu iddialar henüz bağımsız olarak doğrulanmış değil, ancak ilk bulut dağıtımları 2026'nın üçüncü çeyreğinde başladı.
Yedi Çipin Altısından Farkı
Vera Rubin ilk olarak CES 2026'da altı çipli bir sistem olarak duyurulmuştu. Mart 2026'daki GTC'de ise yedinci çip — NVIDIA Groq 3 LPX, ajan üretiminin decode aşaması için düşük gecikmeli bir çıkarım hızlandırıcısı — eklendi. Tam yedi çipli yapı şu şekilde: Vera CPU, Rubin GPU, NVLink 6 switch, ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 Ethernet switch ve Groq 3 LPX.
Her Rubin GPU, 288 GB'a kadar HBM4 ve 22 TB/s bant genişliği içeriyor. Raf seviyesinde, bir NVL72 konfigürasyonu 72 GPU (144 die) ve 36 CPU'yu birleştirerek 220 trilyon transistör, 20.7 TB HBM4 bellek ve 1.6 PB/s kümülatif bellek bant genişliği sunuyor — Blackwell tabanlı GB200 NVL72'ye göre sırasıyla 1.5x ve 2.8x artış.
Dynamo 1.0: Prefill ve Decode'un Ayrıştırılması
Donanım kazanımlarının yanında, NVIDIA Dynamo 1.0 yazılım katmanı da önemli bir rol oynuyor. LLM çıkarımı iki aşamadan oluşur: prefill (giriş prompt'unu işleyerek ilk token'ı üretir, hesaplama sınırlıdır) ve decode (sonraki token'ları teker teker üretir, bellek sınırlıdır). Dynamo, bu aşamaları ayrı işçi havuzlarına ayırarak bağımsız ölçeklendirmeye olanak tanıyor. Blackwell GPU'larda DeepSeek R1 ile yapılan testlerde Dynamo, ayrıştırılmamış sunuma kıyasla 7 kata kadar çıkarım performansı iyileştirmesi sağladı.
Neden Önemli
NVIDIA'nın kod tasarımı stratejisi, rakiplerinin bu verimlilik kazanımlarını yakalamasını zorlaştırıyor. AMD'nin Instinct MI400 serisi (HBM4'te 432 GB kapasite, 19.6 TB/s bant genişliği) ve Google'ın Ironwood TPU v7'si benzer hedeflere sahip olsa da, yedi çipli entegrasyon seviyesine ulaşmak kolay değil. Ayrıca, sürekli post-training iş yüklerinin artan önemi, bu tür optimize edilmiş platformlara olan talebi daha da artıracak. NVIDIA'nın "zeka başına dolar" metriği, yalnızca token maliyetini değil, modelin sürekli iyileştirilmesinin getirdiği değeri de hesaba katıyor.
