AMD’nin merakla beklenen Instinct MI300X MCM GPU’suna dair yeni bilgiler ortaya çıktı. Sızan bilgilere göre, bu GPU, 320 adet “CDNA 3” hesaplama birimi ve 192 GB HBM3 bellekle donatılacak. Ayrıca, bu yıl içinde 288 GB HBM3e bellek yükseltmesi de planlanıyor.
Instinct MI300X, yapay zeka ve yüksek performanslı bilgi işlem (HPC) uygulamaları için tasarlanmış bir GPU. 320 CDNA 3 hesaplama birimi, önceki nesil MI250X’e göre %38’lik bir artış anlamına geliyor. Bu, özellikle büyük dil modelleri ve diğer yapay zeka iş yükleri için önemli bir performans artışı sağlayacak.
- Çift düşük hassasiyetli matris ops/clk/cu
- INT8, FP8, FP16, BF16 için 2:4 yapılandırılmış seyreklik desteği
- Seyreklik etkinleştirildiğinde ek 2 kat performans
- TF32 ve FP8 sayısal format desteği
- FP16/FP32/INT32’nin FP16/FP32/FP64 ile ortak yayımlanması
GPU, 192 GB HBM3 bellekle birlikte gelecek. Bu, yüksek bant genişliği ve düşük gecikme süresi sunarak veri yoğun uygulamaların daha hızlı çalışmasını sağlayacak. Ayrıca, yıl içinde 288 GB HBM3e bellek yükseltmesi seçeneği de sunulacak. HBM3e, HBM3’e göre daha yüksek bant genişliği ve daha düşük güç tüketimi sunuyor.
- Vector FP64’te MI250X’e kıyasla 1,7 kat hızlanma
- Vector FP32’de MI250X’e kıyasla 3,4 kat hızlanma
- Matrix FP64’te MI250X’e kıyasla 1,7 kat hızlanma
- Matrix FP32’de MI250X’e kıyasla 1,7 kat hızlanma
- Matrix FP16’da MI250X’e kıyasla 3,4 kat hızlanma
- Matrix BF16’da MI250X’e kıyasla 3,4 kat hızlanma
- Matrix INT8’de MI250X’e kıyasla 6,8 kat hızlanma
Instinct MI300X, AMD’nin yapay zeka ve HPC alanındaki iddiasını güçlendiriyor. Güçlü hesaplama birimleri ve yüksek performanslı bellek seçenekleriyle, bu GPU, büyük dil modelleri, bilimsel simülasyonlar ve diğer veri yoğun uygulamalar için yeni bir performans standardı belirleyecek gibi görünüyor.
