AWS ja NVIDIA tuovat GPU: illa varustetut Arm-pohjaiset Graviton2-esiintymät pilveen

AWS jatkaa innovaatioita asiakkaidemme puolesta. Työskentelemme NVIDIA: n kanssa Arm-prosessoripohjaisen, NVIDIA-GPU: n nopeuttamiseksi Amazonin elastinen laskentapilvi (Amazon EC2) -esiintymä pilveen vuoden 2021 toisella puoliskolla. Tässä instanssissa on Arm-pohjainen AWS Graviton2 -prosessori, jonka AWS rakensi alusta alkaen ja joka oli optimoitu asiakkaan työmäärän suorittamiseksi pilvessä, eliminoiden paljon tarpeettomia komponentteja, jotka muuten saattavat siirtyä yleiskäyttöön.

AWS-innovaatio Graviton2-prosessoreilla

AWS on jatkanut asiakkaidemme pilvipalvelujen edelläkävijöitä. Vuonna 2018 AWS oli ensimmäinen merkittävä pilvipalvelujen tarjoaja, joka tarjosi Arm-pohjaisia ​​ilmentymiä pilvessä AWS Graviton -prosessoreiden käyttämien EC2 A1 -ilmentymien kanssa. Nämä esiintymät on rakennettu varsiytimien ympärille ja niissä käytetään laajasti AWS: n räätälöityä piitä. Ne sopivat erinomaisesti laajennettaviin työmääriin, joissa voit jakaa kuormituksen pienempien esiintymien ryhmän kesken.

Vuonna 2020 AWS julkaisi AWS-suunnitellut käsivarteen perustuvat Graviton2-prosessorit, jotka tuottivat merkittävän harppauksen suorituskyvyssä ja ominaisuuksissa verrattuna ensimmäisen sukupolven AWS Graviton -prosessoreihin. Nämä prosessorit käyttävät EC2-yleiskäyttöisiä (M6g, M6gd, T4g), laskennalle optimoituja (C6g, C6gd, C6gn) ja muistille optimoituja (R6g, R6gd, X2gd) ilmentymiä ja tarjoavat jopa 40% paremman hintatason verrattuna vertailukelpoiseen virtaan sukupolven x86-pohjaiset ilmentymät monenlaisille työmäärille. AWS Graviton2 -prosessorit tuottavat seitsemän kertaa enemmän suorituskykyä, neljä kertaa enemmän laskentaytimiä, viisi kertaa nopeamman muistin ja välimuistit kaksi kertaa suuremmat kuin ensimmäisen sukupolven AWS Graviton -prosessorit.

Asiakkaat, kuten Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap ja Twitter, ovat kokeneet merkittäviä suorituskyvyn parannuksia ja alentaneet kustannuksia AWS Graviton2 -perusteisten ilmentymien käytöstä tuotannossa. AWS Graviton2 -prosessoreita, jotka perustuvat 64-bittiseen Arm-arkkitehtuuriin, tukevat suositut Linux-käyttöjärjestelmät, mukaan lukien Amazon Linux 2, Red Hat, SUSE ja Ubuntu. Monet AWS: n ja ISV: n suositut sovellukset ja palvelut tukevat myös AWS Graviton2 -pohjaisia ​​instansseja. Arm-kehittäjät voivat käyttää näitä ilmentymiä rakentaakseen sovelluksia natiivisti pilvessä, mikä eliminoi virhealtisten ja aikaa vievien emulointien ja ristikääntämisen tarpeen. NVIDIA-näytönohjainten lisääminen nopeuttaa Graviton2-pohjaisia ​​ilmentymiä erilaisiin pilvikuormituksiin, mukaan lukien pelaaminen ja muut käsivarteen perustuvat työmäärät, kuten koneoppimisen (ML) päätelmät.

Siirrä Android-pelit helposti pilveen

Mukaan tutkimusta App Annie, mobiilipelaaminen on nyt suosituin pelimuoto, ja se on ohittanut konsolin, PC: n ja Macin. Lisä tutkimusta App Annie on osoittanut, että jopa 10% mobiililaitteille käytetystä ajasta on pelien kanssa, ja pelikehittäjien on tuettava ja optimoitava pelejäan nykypäivän ja tulevaisuuden monipuolisille mobiililaitteille. Hyödyntämällä pilviä pelikehittäjät voivat tarjota yhdenmukaisen kokemuksen mobiililaitteiden kirjoista ja pidentää akun käyttöikää matalamman laskenta- ja virrankulutuksen vuoksi. NVIDIA GPU -kiihdytyksellä varustettu AWS Graviton2 -esiintymä antaa pelikehittäjille mahdollisuuden suorittaa Android-pelejä natiivisti, koodata renderoidut grafiikat ja suoratoistaa peliä verkkojen kautta mobiililaitteeseen ilman, että tarvitsee ajaa emulointiohjelmistoa x86-suoritinpohjaisessa infrastruktuurissa.

Kustannustehokas, GPU-pohjainen koneoppimisen päätelmä

Mobiilipelaamisen lisäksi koneiden oppimismalleja tuotannossa käyttävät asiakkaat etsivät jatkuvasti tapoja alentaa kustannuksia, koska ML: n päättely voi olla jopa 90% näiden sovellusten laajamittaisesta käytöstä aiheutuvista kokonaisinfrastruktuurikustannuksista. Tämän uuden tarjouksen avulla asiakkaat voivat hyödyntää Graviton2: n hinta / suorituskykyetuja hyödyntääkseen GPU-nopeutettuja syvällisiä oppimismalleja huomattavasti halvemmalla verrattuna x86-pohjaisiin ilmentymiin, joissa on GPU-kiihdytys.

AWS ja NVIDIA: Pitkä yhteistyöhistoria

AWS ja NVIDIA ovat tehneet yhteistyötä yli 10 vuoden ajan toimittaakseen jatkuvasti asiakkaille tehokkaita, kustannustehokkaita ja joustavia GPU-pohjaisia ​​ratkaisuja, mukaan lukien uusimmat EC2 G4-instanssit NVIDIA T4 -näytönohjaimilla, jotka lanseerattiin vuosina 2019 ja EC2 P4d -esiintymät NVIDIA A100 -näytönohjaimien kanssa, jotka lanseerattiin vuonna 2020. EC2 P4d -esiintymät on asennettu EC2 UltraClusters -nimiseen hyperkeskittymiin, jotka koostuvat tehokkaimmasta laskennasta, verkottumisesta ja pilvivarastosta. EC2 UltraClusters tukee 400 Gbps: n ilmentymäverkkoa, joustavaa kangassovitinta (EFA) ja NVIDIA GPUDirect RDMA -tekniikkaa, mikä auttaa ML-mallien nopeaa kouluttamista skaalaus- ja hajautettujen tekniikoiden avulla.

Sen lisäksi, että tarjoamme ensimmäisenä pilvessä GPU-nopeutettuja ilmentymiä ja ensin pilvessä tarjoamaan NVIDIA V100 -näytönohjaimia, työskentelemme nyt yhdessä NVIDIA: n kanssa tarjotaksemme uusia EC2-ilmentymiä, joissa yhdistyvät käsivarren prosessori GPU-kiihdyttimen kanssa. Vuoden 2021 jälkipuolisko. Lisätietoja osoitteesta AWS ja NVIDIA työskentelevät yhdessä tuodakseen asiakkaille innovatiivista tekniikkaa AWS, NVIDIA GTC 21.

kirjailijasta

Geoff Murase on vanhempi tuotemarkkinointipäällikkö AWS EC2: n kiihdytetyille laskentatapahtumille ja auttaa asiakkaita tyydyttämään laskentatarpeensa tarjoamalla pääsyn laitteistopohjaisiin laskentakiihdyttimiin, kuten graafisiin prosessointiyksiköihin (GPU) tai kenttäohjelmoitaviin porttiryhmiin (FPGA). Vapaa-ajallaan hän nauttii koripalloilusta ja pyöräilystä perheensä kanssa.

Lähde: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/