GB300 Sunucular İçin NVIDIA Blackwell Ultra "B300" Yapay Zeka GPU'ları: Soketli Bir Tasarım Mümkün mü?

NVIDIA’nın Blackwell mimarisiyle gelen B200 GPU’su, yapay zeka alanında çığır açan bir performans sundu. Peki, söylentilere göre daha da güçlü olacak olan Blackwell Ultra “B300” GPU’su, özellikle veri merkezleri ve yapay zeka uygulamalarında sıkça kullanılan GB300 sunucularında nasıl bir yer edinecek? Bu yazıda, B300’ün soketli bir tasarım kullanma ihtimalini ve bu durumun sektöre olan etkilerini derinlemesine inceleyeceğiz.

B300’deki bir diğer önemli değişiklik de çıkarıma fayda sağlayan FP4’ün (Floating Point 4) benimsenmesidir. Çıkarım, eğitilmiş modellerin veriler üzerinde nasıl tahminler yaptığıdır ve yapay zeka hesaplamasının çok önemli bir yönüdür. B200, yapay zeka iş yüklerinde zaten olağanüstüdür ve çeşitli şirketler tarafından halihazırda kullanılmaktadır.

Soketli bir tasarım, GPU’nun anakarta fiziksel olarak takıldığı bir yuva anlamına gelir. Bu tasarımın hem avantajları hem de dezavantajları bulunmaktadır:

• Avantajlar:
  • Yükseltme kolaylığı: GPU’nun bozulması veya daha güçlü bir modele geçilmesi durumunda kolayca değiştirilebilir.
  • Modülerlik: Farklı ihtiyaçlara göre farklı GPU’lar kullanılabilir, bu da sistemin esnekliğini artırır.
  • Onarım kolaylığı: Bir sorun oluştuğunda GPU’nun çıkarılıp değiştirilmesi daha kolaydır.
• Dezavantajlar:
  • Performans kaybı: Soketli tasarım, GPU ile anakart arasında ek bir bağlantı noktası olduğu için teorik olarak biraz performans kaybına neden olabilir.
  • Maliyet: Soketli tasarım, ekstra bir üretim maliyeti anlamına gelebilir.
  • Fiziksel boyut: Soketli bir tasarım, kartın biraz daha büyük olmasına neden olabilir.

Bu durumda, B300 “Blackwell Ultra “nın performansını önemli ölçüde artırması bekleniyor, ancak şaşırtıcı bir şekilde, AMD bu tasarımı 2023’te tanıtılan MI300A yongalarıyla zaten tanıttığı için soket tabanlı tasarıma sahip ilk ürün olmayacak.

NVIDIA Veri Merkezi / AI GPU Yol Haritaları