Nvidia razkriva procesor Grace ARM za velikanske aplikacije AI in HPC

Nvidia je danes predstavil svoj procesor Grace. To je centralna procesna enota (CPE) na osnovi ARM za velikansko umetno inteligenco in visoko zmogljive računalniške aplikacije. To je Nvidijin prvi CPU za podatkovne centre, namensko izdelan za aplikacije, ki delujejo v velikanskem obsegu, je dejal izvršni direktor Nvidie Jensen Huang v osrednjem govoru na Nvidia's GTC 2021 dogodek.

Grace zagotavlja 10-krat večji preskok v zmogljivosti za sisteme, ki usposabljajo velikanske modele umetne inteligence, z uporabo energijsko učinkovitih jeder ARM. In Nvidia je dejala, da bosta švicarski superračunalniški center in nacionalni laboratorij ameriškega ministrstva za energijo Los Alamos prvi uporabljal Grace, ki je poimenovan po Grace iz grace, ki je bil pionir računalniškega programiranja v petdesetih letih prejšnjega stoletja. CPE naj bi bil na voljo v začetku leta 1950.

»Grace je revolucionaren procesor. Zgrajen je namensko za pospešene računalniške aplikacije velikanskega obsega za AI in HPC,« je na novinarski konferenci povedal Paresh Kharya, višji direktor produktnega upravljanja in trženja pri Nvidii.

Huang je dejal: "To je prvi CPE na svetu, zasnovan za računalništvo v terabajtnem obsegu."

CPU je rezultat več kot 10,000 let inženirskega dela. Nvidia je dejala, da bo čip obravnaval računalniške zahteve za najnaprednejše aplikacije na svetu - vključno z obdelavo naravnega jezika, priporočilnimi sistemi in superračunalništvom z umetno inteligenco - ki analizirajo
ogromne nabore podatkov, ki zahtevajo izjemno hitro računalniško zmogljivost in ogromen pomnilnik.

Grace združuje energijsko učinkovita CPU jedra ARM z inovativnim pomnilniškim podsistemom z nizko porabo energije, da zagotovi visoko zmogljivost z veliko učinkovitostjo. Čip bo uporabljal prihodnje jedro ARM, imenovano Neoverse.

»Vodilna umetna inteligenca in podatkovna znanost potiskata današnjo računalniško arhitekturo prek njenih meja – obdelava nepredstavljivih količin podatkov,« je dejal Huang v svojem govoru. »Nvidia je z uporabo licenciranega ARM IP zasnovala Grace kot CPE posebej za velikansko umetno inteligenco in HPC. Skupaj z GPE in DPU nam Grace daje tretjo temeljno tehnologijo za računalništvo in možnost preoblikovanja podatkovnega središča za napredek AI. Nvidia je zdaj podjetje s tremi čipi.«

Grace je visoko specializiran procesor, namenjen delovnim obremenitvam, kot je usposabljanje modelov NLP naslednje generacije, ki imajo več kot 1 bilijon parametrov. V tesni povezavi z grafičnimi procesorji Nvidia bo sistem na osnovi Grace zagotavljal 10-krat hitrejšo zmogljivost kot današnji sistemi, ki temeljijo na Nvidia DGX in delujejo na procesorjih x86. Na novinarski konferenci je nekdo vprašal, ali bo Nvidia tekmovala s čipi x86 Intel in AMD.

Kharya je dejal: "Ne tekmujemo s procesorji x86 … še naprej zelo dobro delamo s procesorji x86."

Grace je zasnovan za aplikacije AI in HPC, vendar Nvidia ne razkriva dodatnih informacij o tem, kje bo Grace danes uporabljen. Nvidia prav tako ni želela razkriti števila tranzistorjev v čipu Grace.

Nvidia uvaja Grace, medtem ko količina podatkov in velikost modelov AI eksponentno naraščata. Današnji največji modeli umetne inteligence vključujejo milijarde parametrov in se podvojijo vsaka dva meseca in pol. Njihovo usposabljanje zahteva nov CPE, ki ga je mogoče tesno povezati z GPE, da se odpravijo ozka grla v sistemu.

»Največja napoved GTC 21 je bila Grace, tesno integriran CPE za več kot trilijon parametrov modelov umetne inteligence,« je dejal Patrick Moorhead, analitik pri Moor Insights & Strategies. »Težko je obravnavati tiste s klasičnimi procesorji x86 in grafičnimi procesorji, povezanimi prek PCIe. Grace je osredotočen na IO in pasovno širino pomnilnika, glavni pomnilnik si deli z grafično procesorsko enoto in je ne smemo zamenjevati s procesorji podatkovnih centrov za splošno uporabo proizvajalcev AMD ali Intel.”

Osnova zmogljivosti Grace je tehnologija medsebojnega povezovanja Nvidia NVLink 4. generacije, ki zagotavlja povezave 900 gigabajtov na sekundo med Grace in grafičnimi procesnimi enotami (GPU) Nvidia, da omogoči 30-krat višjo skupno pasovno širino v primerjavi z današnjimi vodilnimi strežniki.

Grace bo uporabil tudi inovativen pomnilniški podsistem LPDDR5x, ki bo zagotavljal dvakrat večjo pasovno širino in 10-krat boljšo energetsko učinkovitost v primerjavi s pomnilnikom DDR4. Poleg tega nova arhitektura zagotavlja enotno skladnost predpomnilnika z enim naslovnim prostorom pomnilnika, ki združuje sistemski pomnilnik in pomnilnik GPU HBM za poenostavitev programiranja.

"Platforma Grace in njen procesor Arm sta velik nov korak za Nvidio," je v elektronskem sporočilu dejal Kevin Krewell, analitik pri Tirias Research. »Nova zasnova enega CPE-ja po meri, priključenega na GPE s koherentnimi NVlinki, je Nvidijina nova zasnova za prilagajanje ultra velikim modelom umetne inteligence, ki zdaj potrebujejo več dni za delovanje. Ključ do Grace je, da bo z uporabo procesorja Arm po meri možno povečati na velika polja LPDDR5 DRAM, ki so veliko večja, kot je mogoče s pomnilnikom z visoko pasovno širino, neposredno priključenim na GPU.«

Grace bo za švicarsko organizacijo poganjal najhitrejši superračunalnik na svetu. Naprava, imenovana Alps, bo vsebovala 20 eksaflopov obdelave z umetno inteligenco. (To se nanaša na količino računalništva, ki je na voljo za aplikacije z umetno inteligenco.) To je približno 7-krat več računanja, kot je na voljo s superračunalnikom Nvidia Seline z 2.8 eksaflopom, vodilnim superračunalnikom z umetno inteligenco danes. HP Enterprise bo gradil sistem Alps.

Alpe se bodo ukvarjale s problemi na področjih, od podnebja in vremena do ved o materialih, astrofizike, računalniške dinamike tekočin, ved o življenju, molekularne dinamike, kvantne kemije in fizike delcev ter področij, kot so ekonomija in družbene vede, na spletu pa bodo na voljo v 2023. Alps bo opravil kvantnokemijske in fizikalne izračune za hadronski trkalnik ter vremenske modele.

"To je zelo uravnotežena arhitektura z Grace in prihodnjo grafično enoto Nvidia, ki je še nismo napovedali, da bi omogočila prodorne raziskave na številnih področjih," je dejal Kharya.

Medtem je Nvidia tudi povedala, da bo svoje grafične čipe dala na voljo s procesorjem Graviton2 ARM Amazon Web Services za podatkovne centre za računalništvo v oblaku.

Z Grace se bo Nvidia lotila večletnega vzorca ustvarjanja grafičnih procesnih enot, CPE-jev in enot za obdelavo podatkov (CPU-jev) in bo zamenjala zasnove arhitekture Arm in x86, je dejal Huang.

Vir: https://venturebeat.com/2021/04/12/nvidia-unveils-grace-arm-based-cpu-for-giant-scale-ai-and-hpc-apps/