AWS And NVIDIA To Bring Arm-based Graviton2 Instances With GPUs To The Cloud

Taasavaldanud Platon

järgijaid: 0

AWS jätkab oma klientide nimel uuenduste tegemist. Teeme koostööd NVIDIAga, et tuua Arm-protsessoril põhinev NVIDIA kiirendatud GPU Amazon Elastic Compute Cloud (Amazon EC2) eksemplari pilve 2021. aasta teisel poolel. See eksemplar sisaldab Arm-põhist AWS Graviton2 protsessor, mille lõi AWS algusest peale ja mis on optimeeritud selle jaoks, kuidas kliendid oma töökoormust pilves töötavad, kõrvaldades palju mittevajalikke komponente, mis muidu võiksid minna üldotstarbelisse protsessorisse.

AWS-i uuendus Graviton2 protsessoritega

AWS on jätkuvalt oma klientide jaoks pilvandmetöötluse teerajaja. 2018. aastal oli AWS esimene suurem pilveteenuse pakkuja, kes pakkus Arm-põhiseid eksemplare pilves koos EC2 A1 eksemplaridega, mida toidavad AWS Gravitoni protsessorid. Need eksemplarid on üles ehitatud Arm tuumade ümber ja kasutavad laialdaselt AWS-i kohandatud räni. Need sobivad suurepäraselt mastaapsemaks töökoormuseks, mille puhul saate koormust jagada väiksemate eksemplaride rühma vahel.

2020. aastal lasi AWS välja AWS-i disainiga Arm-põhised Graviton2 protsessorid, mis saavutavad suure hüppe jõudluses ja võimalustes võrreldes esimese põlvkonna AWS Gravitoni protsessoritega. Need protsessorid toidavad EC2 üldotstarbelisi (M6g, M6gd, T4g), arvutustele optimeeritud (C6g, C6gd, C6gn) ja mälule optimeeritud (R6g, R6gd, X2gd) eksemplare ning pakuvad võrreldava vooluga võrreldes kuni 40% paremat hinnajõudlust. põlvkonna x86-põhised eksemplarid mitmesuguste töökoormuste jaoks. AWS Graviton2 protsessorid pakuvad seitse korda suuremat jõudlust, neli korda rohkem arvutustuumasid, viis korda kiiremat mälu ja kaks korda suuremat vahemälu võrreldes esimese põlvkonna AWS Gravitoni protsessoritega.

Kliendid, sealhulgas Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap ja Twitter, on AWS Graviton2-põhiste eksemplaride tootmisel käitamisest märgatavalt tõusnud ja kulud vähenenud. 2-bitisel Arm-arhitektuuril põhinevaid AWS Graviton64 protsessoreid toetavad populaarsed Linuxi operatsioonisüsteemid, sealhulgas Amazon Linux 2, Red Hat, SUSE ja Ubuntu. Paljud populaarsed AWS-i ja ISV-de rakendused ja teenused toetavad ka AWS Graviton2-põhiseid eksemplare. Armu arendajad saavad neid eksemplare kasutada rakenduste loomiseks algselt pilves, välistades sellega emuleerimise ja ristkompileerimise vajaduse, mis on veaohtlik ja aeganõudev. NVIDIA GPU-de lisamine kiirendab Graviton2-põhiseid eksemplare erinevate pilve töökoormuste jaoks, sealhulgas mängude ja muude käepõhiste töökoormuste jaoks, nagu masinõppe (ML) järeldused.

Teisaldage Androidi mängud hõlpsalt pilve

Järgi App Annie uurimus, on mobiilimäng nüüdseks kõige populaarsem mänguvorm ning on edestanud konsooli, PC ja Maci. Lisaks App Annie uurimus on näidanud, et kuni 10% kogu mobiilseadmetes veedetavast ajast kulub mängudele ning mänguarendajad peavad toetama ja optimeerima oma mänge nii praegu kui ka tulevikus kasutatavate erinevate mobiilseadmete jaoks. Pilve võimendades saavad mänguarendajad pakkuda ühtset kogemust kõigis mobiilseadmetes ja pikendada aku kasutusaega mobiilseadme väiksema arvutus- ja toitevajaduse tõttu. NVIDIA GPU kiirendusega AWS Graviton2 eksemplar võimaldab mänguarendajatel Androidi mänge natiivselt käivitada, renderdatud graafikat kodeerida ja mänge võrkude kaudu mobiilseadmesse voogesitada, ilma et oleks vaja käivitada emulatsioonitarkvara x86 CPU-põhises infrastruktuuris.

Kulusäästlik GPU-põhine masinõppe järeldus

Lisaks mobiilimängudele otsivad tootmises masinõppemudeleid kasutavad kliendid pidevalt võimalusi kulude vähendamiseks, kuna ML-i järeldused võivad moodustada kuni 90% kogu infrastruktuuri kuludest nende rakenduste suuremahuliseks käitamiseks. Selle uue pakkumisega saavad kliendid ära kasutada Graviton2 hinna ja jõudluse eeliseid, et juurutada GPU kiirendatud süvaõppemudeleid oluliselt madalamate kuludega võrreldes GPU kiirendusega x86-põhiste eksemplaridega.

AWS ja NVIDIA: pikk koostöö ajalugu

AWS ja NVIDIA on teinud koostööd üle 10 aasta, et pakkuda klientidele pidevalt võimsaid, kuluefektiivseid ja paindlikke GPU-põhiseid lahendusi, sealhulgas uusimaid EC2 G4 eksemplarid 4. aastal turule toodud NVIDIA T2019 GPU-dega ja EC2 P4d eksemplarid 100. aastal turule toodud NVIDIA A2020 GPU-dega. EC2 P4d eksemplarid juurutatakse hüperskaala klastritesse, mida nimetatakse EC2 UltraClusteriteks, mis koosnevad suurima jõudlusega arvutus-, võrgu- ja pilvesalvestusest. EC2 UltraClusters toetavad 400 Gbps eksemplari võrkude loomist, elastset kangast adapterit (EFA) ja NVIDIA GPUDirect RDMA tehnoloogiat, et aidata kiiresti koolitada ML-mudeleid, kasutades skaleerimis- ja hajutatud tehnikaid.

Lisaks sellele, et oleme pilves esimesed, pakkudes GPU kiirendatud eksemplare ja esimestena pilves, pakkudes NVIDIA V100 GPU-sid, teeme nüüd koostööd NVIDIAga, et pakkuda uusi EC2 eksemplare, mis ühendavad Arm-põhise protsessori ja GPU kiirendi. 2021. aasta teine pool. Lisateabe saamiseks selle kohta, kuidas AWS ja NVIDIA teevad koostööd uuendusliku tehnoloogia klientideni toomiseks, külastage AWS ja NVIDIA GTC 21.

Teave Autor

Geoff Murase on AWS EC2 kiirendatud andmetöötluseksemplaride vanem tooteturundusjuht, aidates klientidel täita oma arvutusvajadusi, pakkudes juurdepääsu riistvarapõhistele arvutuskiirenditele, nagu graafikaprotsessorid (GPU-d) või Field Programmable Gate Arrays (FPGA-d). Vabal ajal meeldib talle perega korvpalli mängida ja rattaga sõita.