RISC-V vektorlaiendite täiustamine ML-i töökoormuste jõudluse kiirendamiseks

19. aprilli nädala jooksul^th, pidas Linley Group 2021. aasta kevadise töötlejate konverentsi. Linley Groupil on maine suurepäraste konverentside kokkukutsujana. Ja tänavune kevadkonverents polnud erand. Toimus mitmeid väga informatiivseid kõnesid erinevatelt ettevõtetelt, mis teavitasid kuulajaskonda viimastest tööstuses toimuvatest teadus- ja arendustöödest. Ettekanded olid jaotatud kaheksa erineva teema alla. Teemadeks olid Edge AI, sisseehitatud SoC disain, skaleerimise AI koolitus, AI SoC disain, AI ja 5G võrguinfrastruktuur, Edge AI tarkvara, signaalitöötlus ja tõhus AI järeldus.

Tehisintellekt (AI) kui tehnoloogia on viimastel aastatel pälvinud palju tähelepanu ja investeeringuid. Konverentsil kajastus see kindlasti tehisintellektiga seotud teemakategooriate arvus. Tehisintellekti laiemas kategoorias oli Edge AI teema, millel oli ebaõiglane osa esitlustest ja seda õigustatult. Edge computing näeb kiiret kasvu, mida juhivad asjade internet, 5G ja muud madala latentsusajaga rakendused.

Üks Edge AI kategooria esitlustest kandis pealkirja "RISC-V vektorlaiendite täiustamine ML-i töökoormuste jõudluse kiirendamiseks." Kõne pidas Chris Lattner, SiFive, Inc. inseneri- ja tooteosakonna president. Chris põhjendas tugevalt, miks SiFive'i RISC-V vektorlaienditel põhinev lahendus sobib suurepäraselt AI-põhiste rakenduste jaoks. Järgmine on minu seisukoht.

Turunõuded:

Sama kiiresti kui äärearvutite turg kasvab, muutuvad ka nende rakenduste jõudlus- ja võimsusnõuded üha nõudlikumaks. Paljud neist rakendustest on AI-põhised ja kuuluvad masinõppe (ML) töökoormuse kategooriasse. Tehisintellekti kasutuselevõtt sunnib töötlemisnõudeid pigem andmete manipuleerimise kui üldotstarbelise andmetöötluse poole. Süvaõpe on ML-mudelite aluseks ja hõlmab suurte andmemassiivide töötlemist. Kiiresti arenevate ML-mudelite puhul oleks ideaalne lahendus selline, mis optimeerib: jõudlust, võimsust, tekkivate ML-mudelite kaasamise lihtsust ja sellest tulenevate riist- ja/või tarkvaramuudatuste ulatust.

RISC-V vektori eelis:

RISC-V arhitektuuri andnud algatuse algne motivatsioon on eksperimenteerimine. Katsetamine, et töötada välja kiibid, mis tagavad parema jõudluse Moore'i seaduse eeldatava aeglustumise tingimustes. RISC-V põhineb ideel, et saab kohandada konkreetseid kiipe, kus saate valida, milliseid käsukomplekti laiendusi te kasutate. Vektorlaiendid võimaldavad töödelda mis tahes pikkusega vektoreid, kasutades funktsioone, mis töötlevad fikseeritud pikkusega vektoreid. Vektortöötlus võimaldab olemasoleval tarkvaral töötada ilma uuesti kompileerimata, kui riistvara uuendatakse ALU-de ja muude funktsionaalsete üksuste näol. Märkimisväärseid edusamme on tehtud väljakujunenud riistvarabaasi ja toetava ökosüsteemi (nt kompilaatoritehnoloogia) osas.

RISC-V-d saab kohandatud laiendite kaudu optimeerida konkreetse domeeni või rakenduse jaoks. Avatud standardse käsukomplekti arhitektuurina saavad RISC-V kasutajad oma kiibi disaini vajadustele vastava tarnija valimisel palju paindlikkust.

SiFive pakkumine:

SiFive on suurendanud RISC-V Vectori eelist, lisades uusi vektorlaiendusi, et kiirendada paljude erinevate närvivõrgu mudelite täitmist. Vaadake joonist 1, et näha näidet kiirendamisest, mida saab saavutada SiFive'i lisalaiendite abil, võrreldes ainult RISC-V baasvektorilaiendite kasutamisega. Selle Intelligence X280 lahendus on mitmetuumaline RISC-V Vectori lahendus (riist- ja tarkvara), mis muudab klientide jaoks optimeeritud Edge AI rakenduste rakendamise lihtsaks. Lahendust saab kasutada ka andmekeskuse rakenduste juurutamiseks.

Joonis 1:

SiFive eelis:

• SiFive'i Intelligence X280 lahendus toetab täielikult TensorFlow ja TensorFlow Lite avatud lähtekoodiga platvorme masinõppe jaoks (vt joonis 2)
• SiFive pakub lihtsat viisi kliendi olemasoleva koodi migreerimiseks muudel arhitektuuridel RISC-V Vector arhitektuurile. Näiteks saab SiFive tõlkida ARM Neon koodi RISC-V V koostekoodiks
• SiFive võimaldab oma klientidel uurida kohandatud laienduste lisamist oma RISC-V rakendustele
• SiFive laiendab oma OpenFive'i äriüksuse kaudu kohandatud kiibi juurutusteenuseid, et rahuldada domeenispetsiifilisi ränivajadusi

Joonis 2:

Kokkuvõte:

Lühidalt, SiFive'i kliendid saavad oma rakendusi hõlpsalt ja kiiresti juurutada, olenemata sellest, kas rakendused hõlmavad Edge AI töökoormust või traditsioonilist andmekeskuse tüüpi töökoormust. Kui olete huvitatud SiFive'i lahendustest oma ML-i töökoormuse kiirendamiseks, soovitan teil registreeruda ja kuulata Chrisi kogu jutt ja seejärel arutage SiFive'iga võimalusi, kuidas nende erinevaid pakkumisi oma toodete arendamiseks kasutada.

Jaga seda postitust: Allikas: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector-extensions-to-accelerate-performance-on-ml-workloads/