31.4 C
İstanbul
21 Temmuz 2024 Pazar
Ana SayfaHaberlerEtched, Yeni Sohu ASIC ile Nvidia H100'ü Geride Bırakmayı Hedefliyor

Etched, Yeni Sohu ASIC ile Nvidia H100’ü Geride Bırakmayı Hedefliyor

Etched, yeni Sohu ASIC ile Nvidia’nın H100 GPU’sunu geride bırakmayı hedefliyor. Sohu, tek bir 8xSohu sunucusunun 160 H100 GPU’ya eşdeğer performans sağladığını iddia ediyor.

Etched, transformer odaklı çipler üreten bir startup, Sohu adlı yeni bir uygulamaya özel entegre devre (ASIC) tanıttı. Sohu, yapay zeka büyük dil modelleri (LLM) çıkarımında Nvidia’nın H100 GPU’sunu geride bıraktığını iddia ediyor. Etched’a göre, tek bir 8xSohu sunucusu 160 H100 GPU’ya eşdeğer performans sağlayarak veri işleme merkezlerinin hem başlangıç hem de operasyonel maliyetlerini düşürmeyi vaat ediyor.

Sohu ve H100: Mimari Farklılıklar

Mevcut AI hızlandırıcıları, CPU veya GPU olsun, çeşitli AI mimarileri ile çalışacak şekilde tasarlanmıştır. Bu farklı mimari yapılar, donanımın çeşitli modelleri desteklemesini gerektirir. Ancak Etched, Sohu projesi ile transformer mimarisini donanımına entegre ederek daha fazla transistörün AI hesaplamalarına ayrılmasını sağladı. Bu, grafik işleme taleplerini daha hızlı ve verimli bir şekilde işleyen bir GPU’nun, genel amaçlı bir CPU’dan daha iyi performans göstermesi gibi düşünülebilir.

Nvidia ile Rekabet

Nvidia, şu anda AI GPU pazarında lider konumda ve 2023’te 3.76 milyon veri merkezi GPU’su sattı. Ancak Sohu’nun lansmanı, özellikle transformer modellerini kullanan şirketler Sohu’ya yönelirse, Nvidia’nın liderliğini tehdit edebilir. Verimlilik, AI yarışını kazanmanın anahtarıdır ve bu modelleri en hızlı ve en uygun maliyetli donanımda çalıştırabilen herhangi bir şirket öne geçecektir.

Güç Tüketimi ve Sürdürülebilirlik

AI veri merkezlerinin artan güç tüketimi endişe verici bir seviyeye ulaştı. Meta’nın kurucusu Mark Zuckerberg, elektrik arzının AI büyümesini sınırlayacağını belirtmişti. Ancak Etched’in Sohu ile AI hesaplamalarına getirdiği yaklaşım yaygınlaşırsa, AI’nın güç taleplerini daha yönetilebilir seviyelere düşürebiliriz. Bu da elektrik şebekesinin, büyüyen hesaplama ihtiyaçlarımızla daha sürdürülebilir bir şekilde başa çıkmasını sağlayabilir.

Bu yeni gelişmeler ışığında, Etched’in Sohu ASIC ile AI alanında nasıl bir fark yaratacağını görmek heyecan verici olacak. Etched’in Sohu çipi, verimliliği ve performansı ile AI hesaplamalarında yeni bir dönemin kapılarını aralayabilir.

Benzer İçerikler

Yorum Yap

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz

Haberler

Son Yorumlar

- Advertisment -