Izboljšanje vektorskih razširitev RISC-V za pospešitev delovanja pri delovnih obremenitvah ML

V tednu od 19. aprila^th, je skupina Linley organizirala spomladansko procesorsko konferenco 2021. Skupina Linley slovi po sklicu odličnih konferenc. In tudi letošnja spomladanska konferenca ni bila izjema. Bilo je več zelo informativnih pogovorov različnih podjetij, ki so občinstvo seznanila z najnovejšimi raziskavami in razvojem, ki se dogajajo v industriji. Predstavitve so bile razvrščene v osem različnih tem. Predmeti so bili Edge AI, Embedded SoC Design, Scaling AI Training, AI SoC Design, Network Infrastructure for AI and 5G, Edge AI Software, Signal Processing and Efficient AI Inference.

Umetna inteligenca (AI) kot tehnologija je v zadnjih letih pritegnila veliko pozornosti in naložb. Konferenca se je to zagotovo odrazila v številu kategorij vsebin, povezanih z umetno inteligenco. Znotraj širše kategorije umetne inteligence je bil Edge AI tema, ki je imela nepravičen delež predstavitev in to upravičeno. Robno računalništvo beleži hitro rast, ki jo poganjajo internet stvari, 5G in druge aplikacije z nizko zakasnitvijo.

Ena od predstavitev v kategoriji Edge AI je bila naslovljena »Izboljšanje vektorskih razširitev RISC-V za pospešitev delovanja pri delovnih obremenitvah ML.« Govor je imel Chris Lattner, predsednik oddelka za inženiring in izdelke pri SiFive, Inc. Chris je močno dokazal, zakaj je rešitev, ki temelji na vektorskih razširitvah RISC-V podjetja SiFive, odlična za aplikacije, ki jih poganja AI. Moje mnenje je naslednje.

Zahteve trga:

Tako hitro, kot raste trg robnega računalništva, postajajo vse bolj zahtevne tudi zahteve glede zmogljivosti in moči teh aplikacij. Mnoge od teh aplikacij poganja AI in spadajo v kategorijo delovnih obremenitev strojnega učenja (ML). Sprejetje umetne inteligence pa zahteve po obdelavi bolj usmerja k manipulaciji podatkov kot k splošnemu računalniškemu. Globoko učenje je osnova modelov ML in vključuje obdelavo velikih nizov podatkov. Z modeli ML, ki se hitro razvijajo, bi bila idealna rešitev tista, ki optimizira za: zmogljivost, moč, enostavno vključitev nastajajočih modelov ML in obseg posledičnih sprememb strojne in/ali programske opreme.

Vektorska prednost RISC-V:

Prvotna motivacija za pobudo, ki nam je dala arhitekturo RISC-V, je eksperimentiranje. Eksperimentiranje za razvoj zasnov čipov, ki zagotavljajo boljšo zmogljivost ob pričakovani upočasnitvi Moorovega zakona. RISC-V je zgrajen na ideji, da bi lahko izdelali posamezne čipe po meri, kjer lahko izberete, katere razširitve nabora navodil uporabljate. Vektorske razširitve omogočajo obdelavo vektorjev poljubne dolžine z uporabo funkcij, ki obdelujejo vektorje fiksnih dolžin. Vektorska obdelava omogoča delovanje obstoječe programske opreme brez ponovnega prevajanja, ko je strojna oprema nadgrajena v obliki več ALU in drugih funkcionalnih enot. Pomemben napredek je bil dosežen v smislu vzpostavljene baze strojne opreme in podpornega ekosistema, kot so tehnologije prevajalnika.

RISC-V je mogoče optimizirati za določeno domeno ali aplikacijo prek razširitev po meri. Ker gre za odprto standardno arhitekturo nabora navodil, imajo uporabniki RISC-V veliko prilagodljivosti pri izbiri dobavitelja za svoje potrebe po načrtovanju čipov.

Ponudba SiFive:

SiFive je izboljšal prednost RISC-V Vector z dodajanjem novih vektorskih razširitev za pospešitev izvajanja številnih različnih modelov nevronske mreže. Glejte sliko 1, da si ogledate primer vrste pospešitve, ki jo je mogoče doseči z razširitvami dodatkov SiFive v primerjavi z uporabo samo razširitev osnovnega vektorja RISC-V. Njegova rešitev Intelligence X280 je večjedrna rešitev RISC-V Vector (strojna in programska oprema), ki strankam olajša implementacijo optimiziranih aplikacij Edge AI. Rešitev se lahko uporablja tudi za implementacijo aplikacij podatkovnega centra.

Slika 1:

Prednost SiFive:

• Rešitev Intelligence X280 družbe SiFive v celoti podpira odprtokodni platformi TensorFlow in TensorFlow Lite za strojno učenje (glejte sliko 2)
• SiFive ponuja preprost način za selitev obstoječe kode stranke, ki temelji na drugih arhitekturah, na vektorsko arhitekturo RISC-V. Na primer, SiFive lahko prevede kodo ARM Neon v zbirno kodo RISC-V V
• SiFive omogoča svojim strankam, da raziščejo dodajanje razširitev po meri svojim implementacijam RISC-V
• SiFive prek svoje poslovne enote OpenFive razširja storitve implementacije čipov po meri za reševanje domensko specifičnih potreb silicija

Slika 2:

Povzetek:

Na kratko, stranke SiFive lahko preprosto in hitro implementirajo svoje aplikacije, ne glede na to, ali aplikacije vključujejo delovne obremenitve Edge AI ali običajne vrste delovnih obremenitev podatkovnega centra. Če želite izkoristiti rešitve SiFive za pospeševanje delovanja vaših delovnih obremenitev ML, priporočam, da se registrirate in poslušate Chrisov celoten govor nato pa se s SiFive pogovorite o načinih, kako izkoristiti njihove različne ponudbe za razvoj vaših izdelkov.

Delite to objavo prek: Vir: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/