NVIDIA Blackwell Ultra GB300 NVL72 performansta çığır açtı

Blackwell Ultra, NVIDIA tarafından hyperscaler’lar için modern dönem hesaplama seçeneği olarak sunuluyor ve yeni kıyaslamalar GB300 NVL72’nin düşük gecikmeli ve uzun bağlamlı iş yüklerinde muazzam performans sergilediğini ortaya koyuyor. NVIDIA, yeni yayımlanan bir blog gönderisinde Blackwell Ultra’yı SemiAnalysis’ın InferenceMAX’i üzerinde test etti ve sonuçlar şaşırtıcı.

Blackwell Ultra neden önemli?

AI endüstrisi 2022’deki ilk patlamasından bu yana katmanlar halinde evrildi; şu anda agentic hesaplama uygulamaları ön plana çıktı. Bununla birlikte, agentic çerçeveler düşük gecikme ve yüksek bellek bant genişliği gerektiriyor ve Blackwell Ultra bu gereksinimleri hedefliyor.

GB300 NVL72 performansı nasıl karşılaştırıldı?

NVIDIA, GB300 NVL72’yi Hopper tabanlı kurulumlarla karşılaştırdı ve megawatt başına throughput’ta 50x’e varan kazanım raporladı. Öte yandan, kıyaslama her mimarinin mümkün olan en iyi dağıtılmış durumunu gösteriyor.

NVLink yükseltmeleri ve teknik avantajlar nelerdir?

Blackwell Ultra, 72 GPU’lu bir ön yüzeyi tek, birleşik bir NVLink fabric’ine 130 TB/s bağlantıyla bağladı. Bununla birlikte NVIDIA, 8 çipli NVLink tasarımıyla sınırlı olan Hopper’a kıyasla daha üstün bir mimari, raf tasarımı ve NVFP4 precision formatı getirerek throughput avantajı sağladı.

Agentic AI için maliyet ve ölçeklenme kazançları ne?

Team Green, milyon token başına maliyette 35x azalma bildirdi; bu da GB300’ü frontier laboratuvarlar ve hyperscaler’lar için tercih edilen çıkarım seçeneği haline getiriyor. Ölçeklenme yasaları halen geçerli ve NVIDIA’nın “extreme co-design” yaklaşımı ile Huang’s Law bu performans yükseltmelerinin başlıca katalizörleri oldu.

• NVLink fabric: 72 GPU, 130 TB/s bağlantı.
• Megawatt başına throughput: Hopper’a kıyasla ~50x artış.
• Milyon token maliyeti: ~35x azalma (Team Green verisi).
• Uzun bağlamlı iş yükleri: token başına maliyette 1.5x’e kadar düşüş, attention processing’te 2x hız.
• Precision formatı: NVFP4 ile verimlilik ve performans optimizasyonu.

Blackwell Ultra nerede uygulanıyor ve sonraki adımlar neler?

Blackwell Ultra şu anda hyperscaler entegrasyonları sürecinde; dolayısıyla bu ölçümler mimarinin ilk kıyaslamalarından bazılarını temsil ediyor. Öte yandan, NVIDIA Vera Rubin ile Blackwell neslinden daha üstün performans beklenebileceğini işaret ediyor ve bu durum şirketin altyapı yarışındaki hakimiyetinin nedenlerinden biri olarak görülüyor.

Sonuç olarak, Blackwell Ultra ve GB300 NVL72’nin sağladığı performans ve maliyet avantajları agentic AI uygulamaları için önemli bir eşik oluşturuyor. Okuyucuların görüşlerini merak ediyoruz; düşüncelerinizi yorumlarda paylaşın.