NVIDIA ve Meta’nın gelecekteki yapay zeka işlemcileri için yeni bir HBM tasarımına yöneldiği bildiriliyor. Bu tasarımda geleneksel yapının aksine GPU ve HBM ayrı bileşenler olarak değil, tek bir gelişmiş paket içinde birleştirilmiş halde çalışacak. Mevcut HBM yığınlarında en altta yer alan taban katman normalde yalnızca bellekle ilgili bağlantıları taşırken yeni nesil çözümlerde bu taban bölüme GPU işlem mantığının yerleştirilmesi planlanıyor. Bu yaklaşım veri yolunu kısaltarak bant genişliğini artırmayı ve gecikmeyi azaltmayı hedefliyor. Böylece yapay zeka modellerinin eğitimi ve çalıştırılması sırasında çok daha verimli bir mimari elde edilebilecek.
Bu birleşik GPU ve HBM yapısı, Meta ile NVIDIA’nın SK hynix ve Samsung gibi büyük bellek üreticileriyle birlikte geliştirdiği uzun vadeli bir teknoloji olarak görülüyor. Ancak tasarım önemli mühendislik sorunlarını da beraberinde getiriyor. Yapay zeka odaklı GPU’lar yüksek güç tüketimi nedeniyle çok fazla ısı üretebiliyor ve bu kadar yoğun bir işlem biriminin HBM tabanına entegre edilmesi soğutma açısından büyük bir zorluk oluşturuyor. Ayrıca bellek yığınının içindeki bağlantı yoğunluğunun artması üretim karmaşıklığını yükseltiyor.
Tüm bu zorluklara rağmen birleşik GPU ve HBM fikri sektör için oldukça önemli bir adım olarak değerlendiriliyor. Bellek ile işlemci arasındaki veri hareketinin hızlanması, günümüzde yaşanan darboğazları büyük ölçüde hafifletebilir. Eğer teknoloji olgunlaşır ve ticari ürünlere dönüştürülürse yapay zeka donanımı alanında yeni bir standart oluşturabileceği düşünülüyor.
