AWS in NVIDIA bosta v oblak pripeljala primere Graviton2 z grafičnimi procesorji na osnovi Arm

Izvorno vozlišče: 807655

AWS še naprej uvaja inovacije v imenu naših strank. Sodelujemo z NVIDIA, da bi zagotovili GPU, ki temelji na procesorju Arm in pospešuje NVIDIA Amazonski elastični računalniški oblak (Amazon EC2) primerek v oblak v drugi polovici leta 2021. Ta primerek bo vseboval procesor AWS Graviton2, ki ga je AWS zgradil od začetka in optimiziral za to, kako stranke izvajajo svoje delovne obremenitve v oblaku, pri čemer je odstranil veliko nepotrebnih komponent, ki bi sicer lahko šle v procesor za splošne namene.

Inovacija AWS s procesorji Graviton2

AWS je še naprej pionir na področju računalništva v oblaku za naše stranke. Leta 2018 je bil AWS prvi večji ponudnik v oblaku, ki je ponudil instance na osnovi Arma v oblaku z instancami EC2 A1, ki jih poganjajo procesorji AWS Graviton. Ti primerki so zgrajeni okoli jeder Arm in v veliki meri uporabljajo silicij, izdelan po meri AWS. Odlično se prilegajo razširljivim delovnim obremenitvam, pri katerih lahko obremenitev delite med skupino manjših primerkov.

Leta 2020 je AWS izdal procesorje Graviton2, ki jih je zasnoval AWS in temeljijo na Armu, ter so dosegli velik preskok v zmogljivosti in zmogljivostih v primerjavi s procesorji AWS Graviton prve generacije. Ti procesorji poganjajo primerke EC2 za splošne namene (M6g, M6gd, T4g), optimizirane za računalništvo (C6g, C6gd, C6gn) in optimizirane za pomnilnik (R6g, R6gd, X2gd) in zagotavljajo do 40 % boljšo cenovno zmogljivost v primerjavi s primerljivimi trenutnimi. generacije primerkov, ki temeljijo na x86, za najrazličnejše delovne obremenitve. Procesorji AWS Graviton2 zagotavljajo sedemkrat večjo zmogljivost, štirikrat več računalniških jeder, petkrat hitrejši pomnilnik in dvakrat večji predpomnilnik v primerjavi s procesorji AWS Graviton prve generacije.

Stranke, vključno z Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap in Twitter, so opazile znatno izboljšanje zmogljivosti in znižanje stroškov zaradi izvajanja instanc, ki temeljijo na AWS Graviton2, v proizvodnji. Procesorje AWS Graviton2, ki temeljijo na 64-bitni arhitekturi Arm, podpirajo priljubljeni operacijski sistemi Linux, vključno z Amazon Linux 2, Red Hat, SUSE in Ubuntu. Številne priljubljene aplikacije in storitve AWS in ISV podpirajo tudi instance, ki temeljijo na AWS Graviton2. Razvijalci Arm lahko te primere uporabijo za izdelavo aplikacij v oblaku, s čimer odpravijo potrebo po emulaciji in navzkrižnem prevajanju, ki sta nagnjena k napakam in vzameta veliko časa. Dodajanje grafičnih procesorjev NVIDIA pospeši instance, ki temeljijo na Graviton2, za različne delovne obremenitve v oblaku, vključno z igranjem iger in drugimi delovnimi obremenitvami, ki temeljijo na Armu, kot je sklepanje strojnega učenja (ML).

Preprosto premaknite igre Android v oblak

Glede na raziskave App Annie, je mobilno igranje zdaj najbolj priljubljena oblika igranja in je prehitelo konzolo, osebni računalnik in Mac. Dodatno raziskave App Annie je pokazala, da je do 10 % vsega časa, porabljenega na mobilnih napravah, za igre, zato morajo razvijalci iger podpirati in optimizirati svoje igre za raznolik nabor mobilnih naprav, ki se uporabljajo danes in v prihodnosti. Z izkoriščanjem oblaka lahko razvijalci iger zagotovijo enotno izkušnjo v celotnem spektru mobilnih naprav in podaljšajo življenjsko dobo baterije zaradi nižje porabe računalništva in energije na mobilni napravi. Instanca AWS Graviton2 s pospeškom NVIDIA GPU omogoča razvijalcem iger izvorno izvajanje iger Android, kodiranje upodobljene grafike in pretakanje igre prek omrežij v mobilno napravo, ne da bi morali zagnati emulacijsko programsko opremo na infrastrukturi, ki temelji na procesorju x86.

Stroškovno učinkovito sklepanje strojnega učenja na osnovi GPE

Poleg mobilnih iger stranke, ki izvajajo modele strojnega učenja v proizvodnji, nenehno iščejo načine za znižanje stroškov, saj lahko sklepanje ML predstavlja do 90 % celotne infrastrukturne porabe za izvajanje teh aplikacij v velikem obsegu. S to novo ponudbo bodo stranke lahko izkoristile ugodnosti Graviton2 v razmerju med ceno in zmogljivostjo za uvedbo modelov globokega učenja s pospeševanjem GPU po bistveno nižji ceni v primerjavi z instancami na osnovi x86 s pospeševanjem GPU.

AWS in NVIDIA: Dolga zgodovina sodelovanja

AWS in NVIDIA sodelujeta že več kot 10 let, da strankam nenehno zagotavljata zmogljive, stroškovno učinkovite in prilagodljive rešitve, ki temeljijo na GPU, vključno z najnovejšimi Primerki EC2 G4 z grafičnimi procesorji NVIDIA T4, predstavljenimi leta 2019 in Primerki EC2 P4d z grafičnimi procesorji NVIDIA A100, ki so bili predstavljeni leta 2020. Instance EC2 P4d so nameščene v grozdih hiperscalestra, imenovanih EC2 UltraClusters, ki so sestavljeni iz najzmogljivejšega računanja, mreženja in shranjevanja v oblaku. EC2 UltraClusters podpirajo 400 Gbps instančno mreženje, Elastic Fabric Adapter (EFA) in tehnologijo NVIDIA GPUDirect RDMA za pomoč pri hitrem usposabljanju modelov ML z uporabo skaliranih in porazdeljenih tehnik.

Poleg tega, da smo prvi v oblaku, ki ponuja GPU pospešene instance in prvi v oblaku, ki ponuja GPE NVIDIA V100, zdaj sodelujemo z NVIDIA, da ponudimo nove instance EC2, ki združujejo procesor na osnovi Arma s pospeševalnikom GPU v drugi polovici leta 2021. Če želite izvedeti več o tem, kako AWS in NVIDIA sodelujeta pri zagotavljanju inovativne tehnologije strankam, obiščite AWS pri NVIDIA GTC 21.


O Author

Geoff Murase je višji vodja trženja izdelkov za računalniške primere s pospešenim AWS EC2, ki strankam pomagajo pri zadovoljevanju njihovih računskih potreb z zagotavljanjem dostopa do strojnih računalniških pospeševalnikov, kot so grafične procesne enote (GPU) ali polja programabilnih prehodnih nizov (FPGA). V prostem času z družino uživa v košarki in kolesarjenju.

Vir: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/

Časovni žig:

Več od Blog za strojno učenje AWS