SK hynix, TetraMem ve University of Southern California araştırmacıları, AI edge cihazları için memristor tabanlı in-memory computing (IMC) system-on-chip geliştirdi. Tasarımın hedefi, hafif yapay zeka modellerinde çıkarım işlemlerini yüksek verimlilikle hızlandırmak. Ancak mevcut çalışma daha çok bir kavram kanıtı niteliğinde; teorik en iyi senaryoda toplam performansın yaklaşık 2.54 TOPS seviyesine ulaşabileceği belirtiliyor.
Çip, iş yüklerini planlayan gömülü bir RISC-V işlemciye ve toplam 10 neural processing unit’e sahip. Bu birimlerden biri depthwise convolution için ayrılmış durumda, kalan dokuzu ise pointwise ve dense işlemleri yürütüyor. Standart dokuz NPU’nun her birinde analog vector-matrix multiplication için 256 × 256 memristor crossbar, 256 adet 8-bit DAC, 256 adet 8-bit ADC ve ilgili çevre devreleri yer alıyor.
Sistemin en dikkat çekici bölümü, depthwise convolution için optimize edilen özel NPU. Bu birim, klasik yapı yerine sekiz adet 252 × 28 zig-zag crossbar bloğu kullanıyor. Bu topoloji sayesinde 28 bağımsız 3 × 3 convolution işlemi paralel biçimde yürütülürken, dizinin tamamı ağırlık depolama için değerlendirilebiliyor. SK hynix, memristor aygıtlarını geliştirip ürettiğini ve resistive switching hücrelerini 65 nm CMOS devrelerin üzerine kendi back-end süreciyle entegre ettiğini belirtiyor.
Gösterim için özelleştirilmiş bir MobileNetV1Small ağı kullanıldı. Visual Wake Words kıyaslamasına yönelik bu ağ yaklaşık 36.000 parametre içeriyor. Depthwise katmanlar özel NPU’ya, pointwise katmanlar ise diğer NPU’lara dağıtıldı. Donanım, doğal olarak işaretsiz analog vector-matrix multiplication gerçekleştirdiği için girişler ve ağırlıklar işaretsiz 8-bit değerlere nicemleniyor. Her memristor hücresinin efektif hassasiyeti 2 bitin biraz üzerinde kaldığından, yaklaşık 4 bit efektif ağırlık hassasiyeti için iki alt dizi kullanan bir telafi yöntemi uygulanıyor.
Sonuç tarafında çip, uçtan uca çıkarım doğruluğunda %80.36 değerine ulaşıyor; bu seviye, karşılık gelen 4-bit yazılım modeliyle eşleşiyor. Performans ise NPU başına 0.254 TOPS tepe değeri olarak veriliyor. Enerji verimliliği 100 MHz’de 21.3 TOPS/W, 400 MHz’de ise 11.9 TOPS/W düzeyinde. Buna karşın tam SoC performansı net değil: gösterimde 10 NPU’nun tamamı kullanılmıyor ve aynı anda tüm birimlerin doygun çalıştırılıp çalıştırılamadığı açıklanmıyor. Bu nedenle mimari yaklaşım doğrulanmış görünse de, toplam pratik performans konusunda soru işaretleri sürüyor.
