14.7 C
İstanbul
21 Mayıs 2024 Salı
Ana SayfaYapay ZekaIntel Gaudi 3 ile NVIDIA H100'den x1.5 hızlı

Intel Gaudi 3 ile NVIDIA H100’den x1.5 hızlı

Intel, Vision 2024 konferansını Gaudi 3 yapay zeka işleme çipinin tanıtılmasıyla başlattı. Gaudi 3, yapay zeka iş yüklerini kurumsal düzeyde hızlandırmak için tasarlandı ve Intel, bunun artık endüstri standardı olan Nvidia’nın H100 GPU’sundan daha hızlı olduğunu söylüyor.

Gaudi 3, Gaudi 2 ile aynı mimariyi ve temel ilkeleri kullanıyor ve TSMC’nin 5 nm üretim sürecini kullanıyor (Gaudi 2’deki 7 nm), bu da onu daha verimli hale getiriyor. Gaudi 3, 3,7 TB/s bant genişliği ve 900 W TDP ile 128 GB HBM2e’ye sahip.

Intel, Gaudi 3’ü LLAMA2-7B, LLAMA2-13B ve GPT 3-175B gibi farklı büyük dil modellerinde NVIDIA H100 GPU ile karşılaştıran kıyaslamaları gösterdi. Gaudi 3 1,7 kata kadar daha hızlı gözüküyor. Intel ayrıca Gaudi 3’ün Nvidia’nın H100’üne göre 2,3 kata kadar daha verimli olduğunu söylüyor.

Not: Büyüyen ekosistemden başka pay kapmaya çalışan oyuncularda var. Chip üretimine başka bir bakış açısı getiren ve chip üretiminde kullanılan wafer’ın tamamın bir chip gibi kullanan Cerebas‘ın WSE-3 gibi A.I. chiplerinide göz ardı etmemek gerekiyor. Bu tip medyatik olmayan şirketler yakın zamanda NVIDIA , Intel gibi devlere zor anlar yaşatabilirler.

Alp ÖZDEMİR
Alp ÖZDEMİRhttps://hardwaremania.com
Alp an engineer with a passion for all things tech He has spent years honing his skills in the field and is always eager to share his knowledge&insights with others
Benzer İçerikler

Yorum Yap

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz

Haberler

Son Yorumlar

- Advertisment -