Miglioramento delle estensioni vettoriali RISC-V per accelerare le prestazioni sui carichi di lavoro ML

Durante la settimana del 19 aprile^th, Linley Group ha tenuto la sua Spring Processor Conference 2021. Il Linley Group ha la reputazione di organizzare conferenze eccellenti. E la conferenza di primavera di quest'anno non ha fatto eccezione. Ci sono stati numerosi discorsi molto istruttivi da parte di varie aziende che hanno aggiornato il pubblico sull'ultimo lavoro di ricerca e sviluppo che sta avvenendo nel settore. Le presentazioni erano state classificate in otto diversi argomenti. Gli argomenti trattati erano Edge AI, Embedded SoC Design, Scaling AI Training, AI SoC Design, Network Infrastructure for AI and 5G, Edge AI Software, Signal Processing and Efficient AI Inference.

L'intelligenza artificiale (AI) come tecnologia ha raccolto molta attenzione e investimenti negli ultimi anni. La conferenza ha sicuramente riflesso ciò nel numero di categorie di argomenti relative all'IA. All'interno della categoria più ampia dell'IA, Edge AI era un argomento che aveva una quota ingiusta di presentazioni e giustamente. L'edge computing sta assistendo a una rapida crescita guidata da IoT, 5G e altre applicazioni con requisiti a bassa latenza.

Una delle presentazioni all'interno della categoria Edge AI era intitolata "Miglioramento delle estensioni vettoriali RISC-V per accelerare le prestazioni sui carichi di lavoro ML". Il discorso è stato tenuto da Chris Lattner, Presidente, Ingegneria e Prodotto presso SiFive, Inc. Chris ha sostenuto con forza il motivo per cui la soluzione basata sulle estensioni vettoriali RISC-V di SiFive è perfetta per le applicazioni guidate dall'intelligenza artificiale. Quello che segue è il mio punto di vista.

Requisiti di mercato:

Con la crescita del mercato dell'edge computing, anche i requisiti di prestazioni e alimentazione di queste applicazioni diventano sempre più esigenti. Molte di queste applicazioni sono guidate dall'intelligenza artificiale e rientrano nella categoria dei carichi di lavoro di machine learning (ML). E l'adozione dell'intelligenza artificiale sta spingendo i requisiti di elaborazione più verso la manipolazione dei dati piuttosto che l'elaborazione generica. Il deep learning è alla base dei modelli ML e implica l'elaborazione di grandi matrici di dati. Con i modelli ML in rapida evoluzione, una soluzione ideale sarebbe quella che ottimizza per: prestazioni, potenza, facilità di incorporazione di modelli ML emergenti e portata delle modifiche hardware e / o software risultanti.

Vantaggio del vettore RISC-V:

La motivazione originale dietro l'iniziativa che ci ha dato l'architettura RISC-V è la sperimentazione. Sperimentazione per sviluppare progetti di chip che producano prestazioni migliori a fronte del previsto rallentamento della legge di Moore. RISC-V si basa sull'idea di essere in grado di realizzare chip particolari in cui è possibile scegliere quali estensioni del set di istruzioni utilizzare. Le estensioni dei vettori consentono l'elaborazione di vettori di qualsiasi lunghezza utilizzando funzioni che elaborano vettori di lunghezze fisse. L'elaborazione vettoriale consente al software esistente di funzionare senza ricompilazione quando l'hardware viene aggiornato sotto forma di più ALU e altre unità funzionali. Sono stati compiuti progressi significativi in ​​termini di base hardware consolidata e ecosistema di supporto come le tecnologie dei compilatori.

RISC-V può essere ottimizzato per un particolare dominio o applicazione tramite estensioni personalizzate. Essendo un'architettura di set di istruzioni a standard aperto, gli utenti RISC-V godono di molta flessibilità nella scelta di un fornitore per le loro esigenze di progettazione del chip.

L'offerta di SiFive:

SiFive ha migliorato il vantaggio RISC-V Vector aggiungendo nuove estensioni vettoriali per accelerare l'esecuzione di molti diversi modelli di rete neurale. Fare riferimento alla Figura 1 per vedere un esempio del tipo di aumento di velocità che può essere ottenuto utilizzando le estensioni aggiuntive di SiFive rispetto all'utilizzo delle sole estensioni vettoriali di base di RISC-V. La sua soluzione Intelligence X280 è una soluzione RISC-V Vector multi-core (hardware e software) per semplificare l'implementazione di applicazioni Edge AI ottimizzate per i suoi clienti. La soluzione può essere utilizzata anche per implementare applicazioni per data center.

Figura 1:

Vantaggio SiFive:

• La soluzione Intelligence X280 di SiFive supporta completamente le piattaforme open source TensorFlow e TensorFlow Lite per l'apprendimento automatico (fare riferimento alla Figura 2)
• SiFive fornisce un modo semplice per migrare il codice esistente del cliente basato su altre architetture all'architettura RISC-V Vector. Ad esempio, SiFive può tradurre il codice ARM Neon in codice assembly RISC-V V.
• SiFive consente ai suoi clienti di esplorare l'aggiunta di estensioni personalizzate alle loro implementazioni RISC-V
• SiFive, attraverso la sua business unit OpenFive, estende i servizi di implementazione di chip personalizzati per soddisfare le esigenze di silicio specifiche del dominio

Figura 2:

Sommario:

In poche parole, i clienti SiFive possono implementare facilmente e rapidamente le loro applicazioni, indipendentemente dal fatto che le applicazioni coinvolgano carichi di lavoro Edge AI o tradizionali carichi di lavoro di data center. Se sei interessato a beneficiare delle soluzioni SiFive per accelerare le prestazioni dei tuoi carichi di lavoro ML, ti consiglio di registrarti e ascoltare L'intero discorso di Chris e poi discuti con SiFive sui modi per sfruttare le loro diverse offerte per lo sviluppo dei tuoi prodotti.

Condividi questo post tramite: Fonte: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/