Yapay zeka tarafındaki talep artışı yalnızca GPU fiyatlarını değil, bu donanımları temel alan hazır sistemlerin maliyetini de hızla yukarı çekiyor. Morgan Stanley Research’ün tahminine göre Nvidia’nın gelecek nesil Vera Rubin tabanlı VR200 NVL72 rack çözümü, büyük hyperscale bulut servis sağlayıcıları için birim başına yaklaşık $7.8 milyon seviyesine ulaşacak. Bu rakam, yaklaşık $4 milyon seviyesindeki GB300 NVL72 maliyetinin belirgin şekilde üzerinde.
Analizde dikkat çeken noktalardan biri, bellek ve depolamanın toplam sistem maliyetindeki payının ciddi biçimde büyümesi. VR200 NVL72 içinde yer alan DRAM ve NAND kapasitesi nedeniyle, belleğin toplam maliyet içindeki payının yaklaşık %25 seviyesine çıktığı belirtiliyor. Aynı tahmine göre yalnızca bellek tarafı rack başına yaklaşık $2 milyon tutuyor.
Morgan Stanley, Nvidia’nın hyperscale müşterilere VR200 NVL72 şasileri içinde hacimli satışlarda Rubin GPU başına $55,000 ve Vera CPU başına $5,000 fiyatlandırma uygulamayı planladığını aktarıyor. Yeni sistemler tanıdık Oberon şasisini kullanacak olsa da, daha gelişmiş switching, networking, PCB, soğutma, güç kaynağı ve çip paketleme bileşenleri toplam malzeme maliyetini artırıyor. Bu da nihai sistem fiyatına doğrudan yansıyor.
Bellek maliyetindeki sıçramanın arkasında birkaç temel neden var. İlk olarak, her VR200 NVL72 rack içinde 54 TB LPDDR5X bellek bulunacağı ifade ediliyor. Bu kapasite, GB200 NVL72’deki 17 TB LPDDR5X’e kıyasla yaklaşık üç kat artış anlamına geliyor. Q1 döneminde LPDDR5X için GB başına $8 seviyesinde bir maliyet tahmini veriliyor. Bu hesapla GB200 NVL72’deki LPDDR5X içeriği yaklaşık $136,000 ederken, VR200 NVL72’de bu rakam yaklaşık $408,000’a çıkıyor. GB başına fiyatın $10 olması halinde yalnızca LPDDR5X maliyeti $540,000 seviyesine yükselebilir.
Burada kullanılan bellek yapısı da önemli. Vera CPU’ların SOCAMM2 modülleri kullandığı ve bu modüllerin üretimle test tarafında daha pahalı olduğu belirtiliyor. Talep artışıyla birlikte LPDDR5X maliyetinin daha da yükselmesi ihtimali, toplam sistem bedelini yukarı taşıyan unsurlardan biri olarak öne çıkıyor.
İkinci büyük kalem ise depolama tarafı. Her VR200 NVL72 rack’in yaklaşık $1 milyon veya daha fazla değerde 3D NAND depolama taşıyacağı belirtiliyor. GB200 NVL72’de buna yakın bir NAND maliyeti bulunmazken, yeni nesilde depolama artık toplam fatura içinde ciddi bir yer kaplıyor.
Sonuç olarak Vera Rubin tabanlı bir NVL72 rack için yaklaşık $2 milyonluk bellek içeriği sürpriz sayılmıyor. Sistem, yüksek miktarda LPDDR5X ve 3D NAND kullanıyor; buna Rubin GPU’lar üzerindeki HBM4 de eklendiğinde bellek tarafı toplam maliyetin en büyük bileşenlerinden biri haline geliyor. Özellikle yapay zeka sunucularında daha karmaşık ara bağlantı, daha yoğun bellek kapasitesi ve gelişmiş güç-soğutma altyapısı, yeni nesil rack sistemlerin neden bu kadar pahalı hale geldiğini açık biçimde gösteriyor.
