NVIDIA Vera Rubin tam üretime geçti ve Altı yeni çip duyuruldu
Bir milyon bileşenin uyumuyla yapay zekada yeni sınırlar zorlanıyor.
NVIDIA Vera Rubin şu anda tam üretim aşamasında; şirket rack (raf) mimarisinin genel görünümünü ve bireysel bileşenlerini ayrıntılı şekilde gösterdi. NVIDIA, yeni nesil Vera Rubin ile Altı Yeni Yükseltilmiş Çip, geliştirilmiş sıvı soğutma ve NVLink 6 spine gibi önemli teknik yükseltmeleri hayata geçiriyor.
Vera Rubin’de hangi teknik yükseltmeler var?
Vera Rubin mimarisi, Rubin GPU ve Vera CPU’dan oluşan SuperChip konfigürasyonunu temel alıyor. NVIDIA, GPU ile HBM4’ü entegre ederek ve özel SOCAMM modüllerini kullanarak büyük performans artışları sağlıyor. Bununla birlikte, şirket toplam bellek bant genişliğinin 1.2 TB/s olduğunu belirtiyor.
Rack tasarımı (NVL72) ve bileşenleri nasıl görünüyor?
NVL72 rack tasarımına dair detayları gösteren görüntüler ve açıklamalar, ana hesaplama düğümünden ağ ve soğutma unsurlarına kadar çok sayıda bileşeni kapsıyor. Dion Harris, Vera Rubin’i “dünyanın en karmaşık yapay zeka sistemlerinden biri” olarak tanımlıyor ve NVIDIA ekipleri bu mimarinin uygulanmasının zor fakat benzersiz olduğunu ifade ediyor. Öte yandan, Rubin dağıtımlarının yakında müşteri taahhütleri almaya başlaması bekleniyor.
Soğutma ve enerji verimliliğinde ne değişiyor?
NVIDIA, Rubin SuperChip bileşenleri için modüler sıvı soğutma tasarımlarını ve özel cold plate (soğutma plakaları) çözümlerini uyguluyor. Şirket, hiperscalers’ları yükseltilmiş sıvı soğutma sistemlerine geçmeye ikna etmeyi hedefliyor. Sonuç olarak, NVIDIA uygulamanın su kullanımını azalttığını ve bunun önemli bir fayda olduğunu vurguluyor.
NVLink 6 spine ve performans/maliyet etkileri nelerdir?
NVLink 6 nesli sayesinde NVIDIA, rack başına toplam 260 TB/s agregat bant genişliği sağlamayı planlıyor. Harris, NVLink 6 ile modülerliğin yeni bir seviyeye taşındığını ve NVLink 6 spine’in sıfır kesintiyle bakım ve rack düzeyinde RAS (Reliability, Availability, Serviceability) hizmetlerini desteklediğini söylüyor. Tahminlere göre, şirket inference token maliyetini 10x azaltıyor ve Blackwell GB200’e kıyasla MoE modellerini eğitmek için gereken GPU sayısını 4x düşürüyor.
Öne çıkan teknik detaylar
- Toplam bellek bant genişliği: 1.2 TB/s
- Rack başına agregat bant genişliği (NVLink 6 spine): 260 TB/s
- Entegre HBM4 ile performans iyileştirmesi
- Özel SOCAMM modülleri ve Rubin SuperChip tasarımı
- Modüler sıvı soğutma ve özel cold plate çözümleri
- Inference token maliyetinde 10x azalma; MoE eğitiminde GPU sayısında 4x azalma
Müşteri etkisi ve pazar beklentileri nelerdir?
Şirket, Vera Rubin’in makul bir fiyat artışıyla piyasaya çıkacağını ve büyük ölçekli uygulamalarda maliyet/performans avantajı sağlayacağını öne sürüyor. Öte yandan, NVIDIA CEO’sunun belirttiği ilk alım ölçeklendikçe sağlanacak tasarruf prensibi yine önemli bir argüman olarak öne çıkıyor. Bununla birlikte, dağıtımların hiperscalers ve veri merkezi operatörleri tarafından nasıl benimseneceği yakından izlenecek.
Sonuç olarak, NVIDIA Vera Rubin rack mimarisi yapay zekâ altyapısında önemli bir adım olarak görünüyor; NVLink 6, HBM4 entegrasyonu ve modüler sıvı soğutma gibi yenilikler veri merkezi performansını ve verimliliğini etkileyebilir. Okuyucuların görüşlerini merak ediyoruz — yorum kısmında düşüncelerinizi paylaşın.
