Teknoloji üdnyasının lideri ve arama motoru devi Google dün itibariyle, Bulut platformunu güçlendirmek için kullanılan X üzerindeki ilk GB200 NVL tabanlı sunucusunu sergiledi. Dünya çapında bulut sistemi pazarında %12’lik büyük bir paya sahip olan ve üçüncü büyük bulut hizmeti sağlayıcısı olan şirket, şuan için daha hızlı hizmetler sunarak faaliyetlerini önemli ölçüde genişletmek istiyor.
Google’ın bu kararının temel nedenleri arasında şu faktörler yer alıyor:
- Maliyet: Sıvı soğutma sistemleri, geleneksel hava soğutma sistemlerine göre daha yüksek maliyetli bir çözüm. Özellikle büyük ölçekli veri merkezlerinde bu maliyet farkı oldukça önemli bir hale geliyor.
- Karmaşıklık: Sıvı soğutma sistemleri, hava soğutma sistemlerine göre daha karmaşık bir yapıya sahip. Bu da sistemlerin kurulumu, bakımı ve yönetimi konusunda daha fazla zorluk yaratıyor.
- Verimlilik: Sıvı soğutma sistemlerinin sunduğu performans artışı, günümüzdeki GPU teknolojileri ile birlikte daha az belirgin hale geldi. Yeni nesil GPU’lar, daha verimli hale gelerek sıvı soğutmaya olan ihtiyacı azalttı.
- Alternatif Çözümler: Google, sıvı soğutma yerine daha verimli ve maliyet etkin alternatif çözümler üzerinde çalışıyor. Bu çözümler arasında gelişmiş hava soğutma sistemleri ve yeni nesil soğutucu malzemeler yer alıyor.
X’teki resmi Google Cloud hesabı, bulut platformu için NVIDIA’nın GB200 NVL raflarını kullanmaya başladığını duyurdu. Hesap, GB200 yüksek performanslı çipler için sıvı soğutma özelliğine sahip birkaç GB200 NVL rafının yer aldığı bir fotoğraf yayınladı. Her bir GB200 çipi, 90 TFLOPS’luk inanılmaz bir FP64 performansı için bir Grace CPU ve bir B200 Blackwell tabanlı veri merkezi grafik çipi içeriyor.
We’ve been working closely with @nvidia to sustainably build compute infrastructure of the future. Check out a sneak peek of our custom GB200 NVL racks running in our labs.
Birlikte çalışıyoruz @nvidia geleceğin bilgi işlem altyapısını sürdürülebilir bir şekilde inşa etmek. Laboratuvarlarımızda çalışan özel GB200 NVL raflarımıza göz atın.
Register for the App Dev & Infrastructure #GoogleCloudSummit to learn more → https://t.co/tICbhLFN4i pic.twitter.com/H9dCweMM54
— Google Cloud (@googlecloud) October 15, 2024
App Dev ve Altyapısı için kaydolun #GoogleCloudSummit daha fazla bilgi edinmek için → https://t.co/tICbhLFN4i pic.twitter.com/H9dCweMM54
— Google Cloud (@googlecloud) October 15, 2024
Şirketin bu durumu ‘özel’ GB200 NVL rafları kullandığını duyurduğu asla unutulmamalıdır. Ayrıca bunun 32 Grace CPU ve 72 GPU NVLink alanı üzerinden 72 B200 GPU’ya sahip GB200 NVL72 ile aynı yapılandırmayı getirip getirmediğinden şuan için emin olmadığımızı hatırlatmak isteriz.
Bir de Tayvanlı üretici Foxconn var ki, Tayvan’daki en hızlı süper bilgisayarı kurmak için GB200 NVL72 raflarını kullanmaya başladı. GB200 yongalarının güçlü bilgi işlem performansı sayesinde, birçok şirket mevcut sistemlerini LLM’ler, tıbbi araştırmalar, bulut depolama, yapay zeka iş yükleri vb. ile dahil olmak üzere çeşitli kullanımlar için yükseltme yolunda ilerlediği görülüyor. Tabi NVIDIA’nın Blackwell’i şu anda tam üretimde olduğundan, endüstri lideri AI çiplerini kullanacak daha fazla sistem beklemekteyiz.
