ML İş Yüklerinde Performansı Hızlandırmak için RISC-V Vektör Uzantılarını Geliştirme

19 Nisan haftasında^thLinley Group, Spring Processor Conference 2021'i düzenledi. Linley Group, mükemmel konferanslar düzenlemesiyle ünlüdür. Ve bu yılki bahar konferansı da bir istisna değildi. Sektörde meydana gelen en son araştırma ve geliştirme çalışmaları hakkında izleyicileri güncelleyen çeşitli şirketlerden çok sayıda bilgilendirici konuşma yapıldı. Sunumlar sekiz farklı konu başlığı altında toplanmıştır. Konular Edge AI, Gömülü SoC Tasarımı, Ölçekleme AI Eğitimi, AI SoC Tasarımı, AI ve 5G için Ağ Altyapısı, Edge AI Yazılımı, Sinyal İşleme ve Verimli AI Çıkarımıydı.

Bir teknoloji olarak Yapay Zeka (AI), son yıllarda çok fazla ilgi ve yatırım topladı. Konferans kesinlikle bunu AI ile ilgili konu kategorilerinin sayısına yansıttı. Daha geniş AI kategorisi içinde, Edge AI, sunumlarda adil olmayan bir paya sahip olan ve haklı olarak öyle olan bir konuydu. Uç bilgi işlem, IoT, 5G ve diğer düşük gecikmeli gereksinim uygulamaları tarafından yönlendirilen hızlı bir büyüme görüyor.

Edge AI kategorisindeki sunumlardan birinin başlığı şöyleydi: "ML İş Yüklerinde Performansı Hızlandırmak için RISC-V Vektör Uzantılarını Geliştirme." Konuşma, SiFive, Inc'de Mühendislik ve Ürün Başkanı, Chris Lattner tarafından yapıldı. Chris, SiFive'ın RISC-V vektör uzantılarına dayalı çözümünün yapay zeka odaklı uygulamalar için neden mükemmel bir seçim olduğuna dair güçlü bir açıklama yaptı. Aşağıdaki benim görüşüm.

Pazar Gereksinimleri:

Uç bilgi işlem pazarı büyüdükçe, bu uygulamaların performans ve güç gereksinimleri de giderek daha talepkar hale geliyor. Bu uygulamaların çoğu yapay zekaya dayalıdır ve makine öğrenimi (ML) iş yükleri kategorisine girer. Ve AI'nın benimsenmesi, işleme gereksinimini genel amaçlı bilgi işlemden ziyade veri manipülasyonuna doğru itiyor. Derin öğrenme, makine öğrenimi modellerinin temelini oluşturur ve büyük veri dizilerinin işlenmesini içerir. Hızla gelişen ML modelleri ile ideal bir çözüm, performans, güç, yeni ortaya çıkan ML modellerini dahil etme kolaylığı ve sonuçta ortaya çıkan donanım ve/veya yazılım değişikliklerinin kapsamını optimize eden bir çözüm olacaktır.

RISC-V Vektör Avantajı:

Bize RISC-V mimarisini veren girişimin arkasındaki asıl motivasyon deneydir. Moore yasasında beklenen yavaşlama karşısında daha iyi performans sağlayan çip tasarımları geliştirmek için denemeler yapmak. RISC-V, kullandığınız komut seti uzantılarını seçebileceğiniz belirli çipleri kişiye özel hale getirebilme fikri üzerine inşa edilmiştir. Vektör uzantıları, sabit uzunluktaki vektörleri işleyen fonksiyonları kullanarak herhangi bir uzunluktaki vektörlerin işlenmesine izin verir. Vektör işleme, donanım daha fazla ALU ve diğer işlevsel birimler şeklinde yükseltildiğinde, mevcut yazılımın yeniden derleme olmadan çalışmasını sağlar. Yerleşik donanım tabanı ve derleyici teknolojileri gibi destekleyici ekosistem açısından önemli ilerlemeler kaydedilmiştir.

RISC-V, özel uzantılar aracılığıyla belirli bir etki alanı veya uygulama için optimize edilebilir. Açık standart bir komut seti mimarisi olarak RISC-V kullanıcıları, çip tasarım ihtiyaçları için bir tedarikçi seçerken çok fazla esnekliğe sahiptir.

SiFive'ın Teklifi:

SiFive, birçok farklı sinir ağı modelinin yürütülmesini hızlandırmak için yeni vektör uzantıları ekleyerek RISC-V Vektör avantajını geliştirdi. Yalnızca RISC-V'nin temel vektör uzantılarını kullanmaya kıyasla SiFive'ın eklenti uzantıları kullanılarak elde edilebilecek türden bir hızlanma örneğini görmek için Şekil 1'e bakın. Intelligence X280 çözümü, müşterilerinin optimize edilmiş Edge AI uygulamalarını uygulamasını kolaylaştıran çok çekirdekli bir RISC-V Vector çözümüdür (donanım ve yazılım). Çözüm, veri merkezi uygulamalarını uygulamak için de kullanılabilir.

Şekil 1:

SiFive Avantajı:

• SiFive'ın Intelligence X280 çözümü, makine öğrenimi için TensorFlow ve TensorFlow Lite açık kaynak platformlarını tam olarak destekler (Bkz. Şekil 2)
• SiFive, müşterinin diğer mimarilere dayalı mevcut kodunu RISC-V Vektör mimarisine geçirmenin kolay bir yolunu sunar. Örneğin, SiFive, ARM Neon kodunu RISC-V V montaj koduna çevirebilir
• SiFive, müşterilerinin RISC-V uygulamalarına özel uzantılar eklemeyi keşfetmelerine olanak tanır
• SiFive, OpenFive iş birimi aracılığıyla alana özgü silikon ihtiyaçlarını karşılamak için özel çip uygulama hizmetlerini genişletiyor

Şekil 2:

Özet:

Özetle, SiFive müşterileri, uygulamalar Edge AI iş yüklerini veya geleneksel veri merkezi tipi iş yüklerini içersin, uygulamalarını kolayca ve hızlı bir şekilde uygulayabilir. ML iş yüklerinizin performansını hızlandırmak için SiFive'ın çözümlerinden yararlanmak istiyorsanız, kaydolmanızı ve dinlemenizi tavsiye ederim. Chris'in tüm konuşması ve ardından ürünlerinizi geliştirmek için farklı tekliflerinden yararlanmanın yolları hakkında SiFive ile görüşün.

Bu gönderiyi şu yolla paylaş: Kaynak: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/