Ana SayfaHaberlerMarvell ve Penguin, fotonik bellek kumaşıyla 16 TB DRAM hedefliyor

Marvell ve Penguin, fotonik bellek kumaşıyla 16 TB DRAM hedefliyor

Marvell ile Penguin Solutions, yapay zeka ve yüksek performanslı hesaplama sistemlerinde giderek büyüyen bellek darboğazını hedef alan yeni bir mimari üzerinde çalıştıklarını duyurdu. Şirketlerin odağında, işlem kaynaklarını büyük bir ortak bellek havuzuna bağlayan fotonik tabanlı bir bellek kumaşı yer alıyor. Amaç, özellikle GPU hızlandırmalı sistemlerde pahalı ve sınırlı kapasitedeki belleğin daha verimli kullanılmasını sağlamak ve kapasiteyi sistemler arasında daha esnek biçimde paylaştırmak.

Duyurunun merkezinde, aynı bellek kaynaklarının birden fazla sistem tarafından erişilebilmesi fikri bulunuyor. Verilen teknik çerçeveye göre çözüm, 16 adede kadar sistemi ortak bir bellek alanına bağlayabiliyor. Bu yapı içinde sistemler toplam 16 TB DRAM ile 0.5 TB HBM kapasitesini paylaşabiliyor. Böylece her düğümün kendi içinde yüksek miktarda bellek taşımak zorunda kalması yerine, ihtiyaç duyulan kapasite daha merkezi ve bölüşümlü bir modelle sunulmuş oluyor.

Buradaki temel sorun yeni değil. Büyük dil modelleri, öneri sistemleri ve geniş veri kümeleriyle çalışan HPC iş yükleri, yalnızca ham işlem gücü değil, çok büyük bellek kapasitesi ve yüksek bant genişliği de istiyor. Ancak HBM gibi çözümler performans açısından güçlü olsa da maliyetli, kapasite açısından sınırlı ve her sisteme bolca eklenmesi kolay değil. DRAM tarafında kapasiteyi artırmak daha mümkün olsa da, klasik sunucu mimarilerinde bu kaynaklar çoğunlukla tek bir makineye bağlı kalıyor. Sonuçta bir sistem belleğe doymuş halde beklerken, diğer bir sistem ek kapasiteye ihtiyaç duyabiliyor.

Marvell ve Penguin Solutions’ın önerdiği yaklaşım, bu verimsizliği azaltmak için belleği daha ağ benzeri bir kaynak haline getirmek. Fotonik bellek kumaşı ifadesi de burada önem kazanıyor. Elektriksel bağlantıların sınırlarını aşmak için optik ara bağlantılardan yararlanan bu yapı, veriyi daha uzun mesafelerde daha düşük gecikme ve daha yüksek verimlilik hedefiyle taşıyacak şekilde tasarlanıyor. Özellikle raf düzeyinde ya da birden fazla sistemin birlikte çalıştığı kurulumlarda, bu tür bağlantılar klasik backplane veya kablolama yaklaşımlarına göre daha ölçeklenebilir bir seçenek olarak görülüyor.

Yapının 16 sisteme kadar ortak kaynak sunabilmesi, çözümün tek bir sunucudan çok kümelenmiş kurulumları hedeflediğini gösteriyor. Bu, büyük yapay zeka eğitimi ya da çıkarım altyapılarında önemli olabilir. Çünkü bu tür ortamlarda iş yükleri her zaman simetrik ilerlemiyor; bazı düğümler daha fazla model ağırlığı, önbellek ya da ara veri tutmak zorunda kalabiliyor. Ortak bellek havuzu, kaynakların en azından belirli senaryolarda daha dengeli kullanılmasına yardım edebilir.

0.5 TB HBM ile 16 TB DRAM birleşimi de dikkat çekici. HBM, çok yüksek bant genişliği gerektiren veri setleri ve hızlandırıcı odaklı iş akışları için kritik rol oynarken, DRAM daha büyük kapasiteyi ekonomik biçimde sunuyor. Bu iki katmanın aynı paylaşımlı altyapı içinde konumlandırılması, sıcak verinin HBM’de, daha geniş çalışma alanının ise DRAM’de tutulmasına imkan veren hiyerarşik bir bellek modeline kapı açabilir. Duyuruda bunun nasıl yönetileceğine dair tüm ayrıntılar paylaşılmış değil, ancak çözümün değer önerisi açık: her iş yükü için her sisteme aşırı miktarda yerel bellek takmak yerine, ortak bir havuzdan yararlanmak.

Marvell ve Penguin, fotonik bellek kumaşıyla 16 TB DRAM hedefliyor

Bu yaklaşımın maliyet tarafında da önemli bir iddiası var. Yapay zeka sunucularında en pahalı bileşenlerden biri yalnızca GPU değil; onu besleyen yüksek hızlı bellek altyapısı da ciddi bütçe gerektiriyor. Eğer kapasite, daha esnek bir şekilde paylaştırılabiliyorsa, bazı kurulumlarda toplam donanım yatırımı daha verimli hale gelebilir. Aynı şekilde kapasite planlaması da kolaylaşabilir: her düğüm en kötü senaryoya göre donatılmak yerine, ihtiyaçlar ortak havuz üzerinden karşılanabilir.

Öte yandan paylaşımlı bellek fikrinin kendi teknik zorlukları da bulunuyor. Gecikme, tutarlılık, kaynak tahsisi ve yazılım katmanının bu yapıyı ne kadar şeffaf kullanabildiği, gerçek dünya performansını belirleyecek başlıca unsurlar arasında. Yerel belleğe kıyasla uzak ya da paylaşımlı bir havuza erişimin her iş yükünde aynı faydayı sağlaması beklenmez. Özellikle son derece gecikmeye duyarlı uygulamalarda, erişim modeli ve veri yerleşimi kritik hale gelir. Bu nedenle böyle bir mimarinin başarısı, sadece donanım bağlantısına değil, onu yöneten sistem yazılımına ve iş yükü optimizasyonuna da bağlı olacak.

Penguin Solutions’ın bu iş birliğindeki rolü de pratik entegrasyon açısından önemli. Şirket, veri merkezi ve HPC odaklı sistem tasarımıyla biliniyor. Bu da çözümün yalnızca kavramsal bir teknoloji gösterisi olmanın ötesine geçip, gerçek kurulum senaryolarına uyarlanmasının hedeflendiğine işaret ediyor. Marvell tarafı ise ara bağlantı ve altyapı teknolojilerindeki deneyimini bu ortaklığa taşıyor. İki şirketin birlikte verdiği mesaj, bellek ölçekleme sorununu sadece daha fazla modül takarak değil, mimariyi değiştirerek çözme arayışı.

Yapay zeka altyapılarında bugün en çok konuşulan konulardan biri, işlem gücü ile bellek kapasitesi arasındaki dengenin bozulması. Hızlandırıcı sayısı artarken, bu hızlandırıcıların verimli çalışması için gereken bellek kapasitesini ve bant genişliğini ekonomik biçimde büyütmek giderek zorlaşıyor. Marvell ve Penguin Solutions’ın fotonik bellek kumaşı yaklaşımı, tam da bu baskı noktasına yanıt vermeyi amaçlıyor. 16 sisteme kadar paylaştırılabilen 16 TB DRAM ve 0.5 TB HBM, kağıt üzerinde özellikle büyük ölçekli AI ve HPC kurulumları için dikkat çekici bir teklif sunuyor.

Sonuç olarak burada vaat edilen şey, tek tek sistemleri şişirmek yerine belleği paylaşılan bir altyapı kaynağına dönüştürmek. Bunun ne kadar yaygınlaşacağı, performansın gerçek iş yüklerinde nasıl şekilleneceğine ve toplam sahip olma maliyetine ne ölçüde katkı sağlayacağına bağlı olacak. Ancak duyurunun işaret ettiği yön net: AI ve HPC çağında sorun artık yalnızca daha hızlı işlemci ya da daha güçlü GPU bulmak değil, bu kaynakların arkasındaki belleği daha akıllı ve ölçeklenebilir biçimde düzenlemek.

HWM
HWMhttps://hardwaremania.com
Yoda is a revered former Jedi Master who spent the last years of his life on Dagobah. The nine-hundred-year-old Jedi master trained Jedi knights for eight centuries.
Benzer İçerikler

Haberler

- Advertisment -

Son Yorumlar

- Advertisment -