Etched, transformer odaklı çipler üreten bir startup, Sohu adlı yeni bir uygulamaya özel entegre devre (ASIC) tanıttı. Sohu, yapay zeka büyük dil modelleri (LLM) çıkarımında Nvidia’nın H100 GPU’sunu geride bıraktığını iddia ediyor. Etched’a göre, tek bir 8xSohu sunucusu 160 H100 GPU’ya eşdeğer performans sağlayarak veri işleme merkezlerinin hem başlangıç hem de operasyonel maliyetlerini düşürmeyi vaat ediyor.
Sohu ve H100: Mimari Farklılıklar
Mevcut AI hızlandırıcıları, CPU veya GPU olsun, çeşitli AI mimarileri ile çalışacak şekilde tasarlanmıştır. Bu farklı mimari yapılar, donanımın çeşitli modelleri desteklemesini gerektirir. Ancak Etched, Sohu projesi ile transformer mimarisini donanımına entegre ederek daha fazla transistörün AI hesaplamalarına ayrılmasını sağladı. Bu, grafik işleme taleplerini daha hızlı ve verimli bir şekilde işleyen bir GPU’nun, genel amaçlı bir CPU’dan daha iyi performans göstermesi gibi düşünülebilir.
Nvidia ile Rekabet
Nvidia, şu anda AI GPU pazarında lider konumda ve 2023’te 3.76 milyon veri merkezi GPU’su sattı. Ancak Sohu’nun lansmanı, özellikle transformer modellerini kullanan şirketler Sohu’ya yönelirse, Nvidia’nın liderliğini tehdit edebilir. Verimlilik, AI yarışını kazanmanın anahtarıdır ve bu modelleri en hızlı ve en uygun maliyetli donanımda çalıştırabilen herhangi bir şirket öne geçecektir.
Güç Tüketimi ve Sürdürülebilirlik
AI veri merkezlerinin artan güç tüketimi endişe verici bir seviyeye ulaştı. Meta’nın kurucusu Mark Zuckerberg, elektrik arzının AI büyümesini sınırlayacağını belirtmişti. Ancak Etched’in Sohu ile AI hesaplamalarına getirdiği yaklaşım yaygınlaşırsa, AI’nın güç taleplerini daha yönetilebilir seviyelere düşürebiliriz. Bu da elektrik şebekesinin, büyüyen hesaplama ihtiyaçlarımızla daha sürdürülebilir bir şekilde başa çıkmasını sağlayabilir.
Bu yeni gelişmeler ışığında, Etched’in Sohu ASIC ile AI alanında nasıl bir fark yaratacağını görmek heyecan verici olacak. Etched’in Sohu çipi, verimliliği ve performansı ile AI hesaplamalarında yeni bir dönemin kapılarını aralayabilir.
