AMD, AI iş yükleri için geliştirdiği ilk tam yığın raf seviyesi çözümü Helios’u, çıkarım tarafında daha güçlü hale getirmek için Cerebras ile iş birliğine gidiyor. Şirketin planı, Cerebras’ın Wafer-Scale Engine mimarisini Helios sistemlerine entegre ederek özellikle düşük gecikmeli ve yüksek hızlı inference performansı sunmak.
Helios platformu; AMD Instinct MI455X GPU’lar, 6. nesil AMD EPYC işlemciler, AMD Pensando AI NIC’ler, AMD Pensando DPU, AMD Infinity Fabric ve AMD ROCm yazılım yığınından oluşuyor. AMD’nin yaklaşımı, eğitim ve yüksek hacimli işlem tarafında kendi altyapısını kullanırken, çok hızlı decode ve token üretimi için Cerebras teknolojisini devreye almak üzerine kurulu.
Cerebras’ın öne çıkan tarafı, Wafer-Scale Engine tasarımı. Bu yaklaşım, bellek ve hesaplama kaynaklarını tek bir dev silikon yüzey üzerinde bir araya getiriyor. Yüz binlerce işlem çekirdeği ile onlarca GB SRAM’in aynı yapıda bağlanması, verinin harici ağ darboğazlarına takılmadan çok daha verimli taşınmasına imkan veriyor. Böylece orta ölçekli bir modelin tamamı ya da büyük bir modelin çok büyük bölümleri birleşik SRAM alanında tutulabiliyor.
Bu mimari sadece eğitim için değil, inference için de önemli avantajlar vadediyor. AMD’nin paylaştığı yol haritasına göre Helios, yüksek performanslı ve ölçeklenebilir throughput motoru rolünü üstlenecek. Cerebras tarafı ise ultra hızlı, ultra düşük gecikmeli decode ve token üretimine odaklanacak. İki yaklaşım birlikte kullanıldığında, watt başına saniyedeki token üretiminde 5x’e kadar artış hedefleniyor.
Bu ortaklığın dikkat çekmesinin bir diğer nedeni de OpenAI tarafında Cerebras donanımına yönelik olumlu değerlendirmeler. OpenAI araştırmacısı Jeffrey Wang, kurum içinde bazı OpenAI modellerinin Cerebras çipleri üzerinde çalıştığını ve bu sistemlerin “çok hızlı inference” sunduğunu belirtiyor. Wang’a göre bazı görevlerde daha önce birkaç dakika beklemek gerekirken, şimdi sonuç görev değişimine fırsat kalmadan tamamlanabiliyor.
AI tarafında inference maliyetleri artık veri merkezi kârlılığında belirleyici unsurlardan biri haline gelmiş durumda. Bu nedenle Helios ile Cerebras kombinasyonu, yalnızca ham performans açısından değil, verimlilik ve operasyonel değer açısından da AMD için stratejik önem taşıyor.
