DeepSeek, Huawei ile ortak geliştirdiği ve Ascend AI yongalarını hedefleyen açık kaynak programlama araçlarını kullanıma sundu. Paket, AI hesaplamaları için kütüphaneler, yongalar arası iletişim araçları ve yüksek seviyeli TileLang dili için Ascend desteğini içeriyor. Amaç, geliştiricilerin Nvidia ekosistemine olan bağımlılığını azaltırken Huawei donanımından daha verimli yararlanmasını sağlamak.
Şirketin verdiği bilgilere göre araçlar, programlamayı sadeleştirirken donanım performansını daha iyi kullanmayı hedefliyor. DeepSeek ve Huawei ayrıca 128 adet Ascend 950 yongası etrafında kurulan bir supernode sistemi üzerinde hesaplama ve iletişim optimizasyonu da yaptı. Bu çalışma, büyük AI iş yüklerinde kritik olan iki noktaya odaklanıyor: her yonga üzerinde hesaplamanın verimli yapılması ve işlemcileri meşgul tutacak kadar hızlı veri aktarımı sağlanması.
Yayımlanan bileşenlerden DeepGEMM-Ascend, matris çarpımı ve DeepSeek modellerinde kullanılan diğer hesaplamaları üstleniyor. Kütüphane BF16, FP8 ve FP4 işlemlerini destekliyor. Ayrıca DeepSeek’in mevcut DeepGEMM kütüphanesiyle aynı programlama arayüzlerini kullanıyor. Böylece geliştiriciler, Ascend platformuna geçerken alıştıkları API yapısını koruyabiliyor.
İletişim tarafında ise DeepEP-Ascend devreye giriyor. Bu kütüphane, eğitim ve çıkarım iş yüklerinde veri iletişimini yönetiyor; özellikle mixture-of-experts modellerinde verinin farklı uzmanlara yönlendirilmesi ve çıktılarının birleştirilmesi gibi görevleri kapsıyor. Her iki kütüphane de Ascend 950 donanımı üzerinde geliştirildi ve test edildi.
TileLang ise optimize çekirdekler yazmak için daha üst seviye programlama katmanını sağlıyor. DeepSeek, bu dili Nvidia’nın CUDA yaklaşımına kıyasla daha basit bir programlama modeli olarak tanımlıyor. Hedef, geliştirme verimliliğini artırmak ve kodu sadeleştirmek. TileLang daha önce Nvidia ve başka platformları destekliyordu; 30 Eylül tarihli güncelleme ile Ascend 950 için doğal destek, kod üretimi, otomatik zamanlama ve senkronizasyon yetenekleri eklendi.
Bu araçlar, Huawei’nin Ascend üzerinde AI iş yüklerini çalıştırmak için temel altyapıyı sağlayan mevcut CANN yazılım platformunun üzerine inşa ediliyor. Nvidia’nın CUDA ekosistemi uzun süredir olgun araçlar ve optimize kütüphaneler sunduğu için şirketin AI alanındaki önemli avantajlarından biri olarak görülüyor. Yeni açık kaynak araçlar, Huawei donanımı üzerinde optimizasyon seçeneklerini genişletirken, TileLang’in çoklu platform desteği dilin Nvidia GPU’larda da kullanılabilir kalmasını sağlıyor.
Duyuru, Huawei’nin yeni nesil AI işlemcileri ve supernode sistemlerini tanıtmasından iki hafta sonra geldi. Şirket, AI sistemlerinin 2027’de model eğitimi tarafında yaygın şekilde kullanılmasını beklediğini açıklamıştı. İki şirket daha önce de nisan ayında ön izleme sürümü yayımlanan DeepSeek V4 modeli üzerinde iş birliği yapmıştı; bu sürüm Huawei Ascend yongaları için destek içeriyordu. Huawei ayrıca Ascend 950 supernode sistemlerinin V4 modellerini tam olarak desteklediğini ve daha hafif V4-Flash modelinin eğitiminin bir bölümünde kendi yongalarının kullanıldığını belirtmişti.
