Tenstorrent CEO’su Jim Keller, şirketin yapay zeka donanımı pazarındaki konumuna dair iddialı açıklamalar yaptı. Keller, Cerebras’ın yakın dönem IPO hamlesinden rahatsız olmadığını, aksine bunu olumlu gördüğünü belirtirken Tenstorrent’in rakibini “her alanda” geçeceğini savundu. Şirketin bu iddiasının merkezinde ise kısa süre önce tanıtılan BlackHole Galaxy sunucu sistemi yer alıyor.
Tenstorrent, BlackHole Galaxy platformunu özellikle toplam sahip olma maliyeti yani TCO tarafında öne çıkarıyor. Keller’ın değerlendirmesine göre şirket, yalnızca ham performans açısından değil, büyük ölçekli kurulumlarda maliyet verimliliği bakımından da Cerebras ve diğer rakiplerle rekabet edebilecek durumda. Cerebras’ın WSE-CS3 donanımının Kimi K2.6 (1T) modelinde yaklaşık 1000 token/saniye düzeyine çıktığı belirtilirken, Keller buna karşılık BlackHole sunucuların geniş ölçekli dağıtımlarda bu seviyeyi rahatlıkla aşabileceğini ve bunu toplam sistem maliyetinin çok daha düşük bir kısmıyla başarabileceğini söylüyor.
Keller ayrıca Tenstorrent’in KV Cache yaklaşımına da değindi. Rakip tarafta NVIDIA gibi firmalar bu alan için özel çözümler geliştirirken, Tenstorrent’in çözümünde KV Cache verisi decode ile aynı çip üzerindeki DRAM’de tutuluyor. Şirkete göre bu yapı yönetimi basitleştiriyor. Gerektiğinde Tenstorrent’in Tensor çipleri KV Cache’i yerel SRAM içinde ölçekleyebiliyor; bunun yeterli olmadığı senaryolarda ise veri DRAM’e aktarılabiliyor. Keller, bunun bir performans cezası doğurabildiğini kabul etse de, DRAM bulunmayan rakip çözümlere kıyasla yine de daha avantajlı olduğunu ifade ediyor.
Görüşmede Tenstorrent hakkında dolaşan Qualcomm veya Intel tarafından satın alma söylentileri de gündeme geldi. Keller doğrudan bir satın alma doğrulaması yapmadı, ancak her iki şirketin CEO’larıyla görüştüğünü söyledi. Buradaki beklentisinin, özellikle şirketin RISC-V CPU IP portföyü etrafında büyük bir anlaşma yapmak olduğu anlaşılıyor. Ayrıca bir hyperscaler’ın da küçük bir çip için Tenstorrent’in AI IP’sine ilgi gösterdiği belirtiliyor.
Şirketin kendi IPO planı da masada. Keller, yatırımcı ilgisinin güçlü olduğunu ve Tenstorrent’in küresel ölçekte daha geniş bir varlık ile tedarik zinciri kurmaya çalıştığını aktarıyor. Talep tarafında da hareketlilik dikkat çekiyor. Şirket, denizaşırı bir müşteriden 3072 BlackHole çipi içeren 96-Galaxy pod siparişi aldığını belirtiyor. Ayrıca NVIDIA tarafında $100 million düzeyindeki bir siparişin Tenstorrent ile yaklaşık $20 million seviyesine çözülebileceği öne sürülüyor. Tenstorrent’in geliştirdiği 1000 Galaxy sunucunun yarısının şimdiden satılmış olması da şirketin ticarileşme sürecinde ivme kazandığını gösteriyor.
