NVIDIA’nın Vera Rubin platformu için üretimi hızlandırması, yalnızca GPU ve veri merkezi tarafında değil, bellek ve depolama tedarik zincirinde de etkisini göstermeye başladı. Son dönemde özellikle TLC NAND spot piyasasında görülen fiyat artışı, bu genişleme dalgasının en görünür sonuçlarından biri olarak öne çıkıyor. 512Gb TLC NAND’ın spot fiyatı, haziran ayında bu seviyenin altına indikten sonra yeniden $21’e yükselmiş durumda.
Bu hareketin arkasındaki başlıca nedenlerden biri, Vera Rubin platformuyla birlikte devreye alınacak Context Memory eXtension ya da kısa adıyla CMX. NVIDIA, yapay zeka iş yüklerinde önemli yer tutan KV cache verisini yönetmek için HBM ile geleneksel arka uç ağ depolaması arasına yeni bir ara katman ekliyor. Bu katman, büyük ölçekli bir TLC flash bellek havuzu gibi çalışıyor ve Rubin GPU kümelerine bağlanıyor.
CMX tarafında bağlantı ve veri akışı, NVIDIA BlueField-4 DPU’lar ile ultra hızlı Spectrum-X Ethernet üzerinden sağlanıyor. Buradaki yapı yalnızca depolama kapasitesi sunmuyor; aynı zamanda KV cache işlemlerinin gerçek zamanlı yönetimi için özel bir ara altyapı oluşturuyor. Bu nedenle kullanılan TLC NAND miktarı, klasik kurumsal SSD talebinin ötesine geçen yeni bir tüketim alanı yaratıyor.
Rakamlar da ölçeği açık biçimde gösteriyor. Tek bir 2U CMX sunucusu 600TB TLC flash depolama barındırıyor. Bu yapıdaki dört DPU’nun her biri 150TB context memory yönetiyor. Pod seviyesinde toplam kapasite ise 9,600TB, yani 9.6PB düzeyine ulaşıyor. Bu büyüklük, Vera Rubin tabanlı kurulumlar yaygınlaştıkça NAND tarafında ciddi bir kaynak tahsisi gerektireceğini ortaya koyuyor.
Diğer tarafta veri merkezlerinin AI iş yükleri için yüksek yoğunluklu ve yüksek performanslı Enterprise SSD’lere olan ihtiyacı da artıyor. Vera Rubin üretimi yükseldikçe bu eSSD talebi de paralel biçimde büyüyor. Sonuç olarak TLC NAND, hem CMX benzeri yeni mimarilerde doğrudan kapasite olarak hem de kurumsal depolama ürünlerinde dolaylı olarak daha fazla kullanılmaya başlanıyor.
Elbette NVIDIA’nın tüketeceği TLC NAND’ın önemli bir kısmının uzun vadeli anlaşmalar üzerinden ayrılmış olması muhtemel. Buna rağmen beklenen toplam hacim, spot piyasadaki arzı da sıkılaştırmaya başlamış görünüyor. Şimdilik görülen tablo, yalnızca anlık bir fiyat tepkisinden ziyade, AI altyapısına dönük büyümenin depolama bileşenlerine de yayıldığını gösteriyor.
Öte yandan Bank of America, Vera Rubin Ultra için gündeme gelen olası HBM kapasite düşürme iddialarına mesafeli yaklaşıyor. Dolaşımdaki söylentiler, NVIDIA’nın marjlarını korumak için GPU başına HBM4E miktarını azaltabileceğini öne sürüyordu. Ancak değerlendirmeye göre böyle bir adım gerçekleşirse bunun kalıcı olarak daha düşük kapasiteli bir SKU’dan çok, kısa vadeli tedarik kısıtlarına verilen geçici bir yanıt olması beklenir.
