Intel, Vision 2024 konferansını Gaudi 3 yapay zeka işleme çipinin tanıtılmasıyla başlattı. Gaudi 3, yapay zeka iş yüklerini kurumsal düzeyde hızlandırmak için tasarlandı ve Intel, bunun artık endüstri standardı olan Nvidia’nın H100 GPU’sundan daha hızlı olduğunu söylüyor.
Gaudi 3, Gaudi 2 ile aynı mimariyi ve temel ilkeleri kullanıyor ve TSMC’nin 5 nm üretim sürecini kullanıyor (Gaudi 2’deki 7 nm), bu da onu daha verimli hale getiriyor. Gaudi 3, 3,7 TB/s bant genişliği ve 900 W TDP ile 128 GB HBM2e’ye sahip.
Intel, Gaudi 3’ü LLAMA2-7B, LLAMA2-13B ve GPT 3-175B gibi farklı büyük dil modellerinde NVIDIA H100 GPU ile karşılaştıran kıyaslamaları gösterdi. Gaudi 3 1,7 kata kadar daha hızlı gözüküyor. Intel ayrıca Gaudi 3’ün Nvidia’nın H100’üne göre 2,3 kata kadar daha verimli olduğunu söylüyor.
Not: Büyüyen ekosistemden başka pay kapmaya çalışan oyuncularda var. Chip üretimine başka bir bakış açısı getiren ve chip üretiminde kullanılan wafer’ın tamamın bir chip gibi kullanan Cerebas‘ın WSE-3 gibi A.I. chiplerinide göz ardı etmemek gerekiyor. Bu tip medyatik olmayan şirketler yakın zamanda NVIDIA , Intel gibi devlere zor anlar yaşatabilirler.
