Az AWS és az NVIDIA az Arm-alapú Graviton2-példányokat GPU-val a felhőbe helyezi

Az AWS továbbra is innovációt folytat ügyfelei érdekében. Az NVIDIA-val együttműködve Arm processzor alapú, gyorsított NVIDIA GPU-t hozunk létre Amazon rugalmas számítási felhő (Amazon EC2) példányát a felhőbe 2021 második felében. Ez a példány az Arm-alapú AWS Graviton2 processzor, amelyet az alapoktól kezdve az AWS épített fel, és arra optimalizálták, ahogyan az ügyfelek a felhőben futtatják a munkaterhelésüket, így sok szükségtelen összetevőt kiiktattak, amelyek egyébként egy általános célú processzorba kerülnének.

AWS innováció Graviton2 processzorokkal

Az AWS továbbra is úttörő szerepet vállalt ügyfeleink számára a számítási felhő terén. 2018-ban az AWS volt az első nagy felhőszolgáltató, amely Arm-alapú példányokat kínált a felhőben az AWS Graviton processzorokkal működő EC2 A1 példányokkal. Ezek a példányok Arm magok köré épülnek, és széles körben használják az AWS egyedi gyártású szilíciumot. Kiválóan illeszkednek a skálázható munkaterhelésekhez, amelyek során megoszthatja a terhelést kisebb példányok csoportja között.

2020-ban az AWS kiadta az AWS által tervezett, Arm-alapú Graviton2 processzorokat, amelyek jelentős ugrást tettek a teljesítményben és a képességekben az első generációs AWS Graviton processzorokhoz képest. Ezek a processzorok az EC2 általános célú (M6g, M6gd, T4g), számítás-optimalizált (C6g, C6gd, C6gn) és memóriaoptimalizált (R6g, R6gd, X2gd) példányokat hajtanak végre, és akár 40%-kal jobb árteljesítményt biztosítanak a hasonló áramhoz képest. generációs x86-alapú példányok sokféle munkaterheléshez. Az AWS Graviton2 processzorok hétszer nagyobb teljesítményt, négyszer több számítási magot, ötször gyorsabb memóriát és kétszer akkora gyorsítótárat biztosítanak, mint az első generációs AWS Graviton processzorok.

Az olyan ügyfelek, mint a Domo, a Formula One, a Honeycomb.io, az Intuit, a LexisNexis Risk Solutions, a Nielsen, a NextRoll, a Redbox, a SmugMug, a Snap és a Twitter, jelentős teljesítménynövekedést és költségcsökkenést tapasztaltak az AWS Graviton2-alapú példányok éles üzemben tartása miatt. A 2 bites Arm architektúrán alapuló AWS Graviton64 processzorokat népszerű Linux operációs rendszerek támogatják, köztük az Amazon Linux 2, a Red Hat, a SUSE és az Ubuntu. Az AWS és ISV-k számos népszerű alkalmazása és szolgáltatása támogatja az AWS Graviton2-alapú példányokat is. Az Arm fejlesztők ezeket a példányokat arra használhatják, hogy natívan a felhőben építsenek alkalmazásokat, így nincs szükség az emulációra és a keresztfordításra, amelyek hibásak és időigényesek. Az NVIDIA GPU-k hozzáadása felgyorsítja a Graviton2-alapú példányokat a különféle felhőalapú munkaterhelésekhez, beleértve a játékokat és más Arm-alapú munkaterheléseket, például a gépi tanulási (ML) következtetéseket.

Könnyen áthelyezheti az Android-játékokat a felhőbe

Szerint App Annie kutatása, a mobiljáték mára a legnépszerűbb játékforma, és megelőzte a konzolt, a PC-t és a Mac-et. További App Annie kutatása kimutatta, hogy a mobileszközökön eltöltött idő 10%-a játékokkal telik, és a játékfejlesztőknek támogatniuk és optimalizálniuk kell játékaikat a ma és a jövőben használt mobileszközök sokféleségéhez. A felhő kihasználásával a játékfejlesztők egységes élményt nyújthatnak a mobileszközök teljes spektrumában, és meghosszabbíthatják az akkumulátor élettartamát a mobileszköz alacsonyabb számítási és energiaigényének köszönhetően. Az AWS Graviton2 példány NVIDIA GPU-gyorsítással lehetővé teszi a játékfejlesztők számára, hogy natív módon futtassák az Android játékokat, kódolják a renderelt grafikát, és streameljék a játékot hálózaton keresztül egy mobileszközre, mindezt anélkül, hogy emulációs szoftvert kellene futtatniuk x86 CPU-alapú infrastruktúrán.

Költséghatékony, GPU-alapú gépi tanulási következtetés

A mobiljátékok mellett az éles gépi tanulási modelleket használó ügyfelek folyamatosan keresik a költségek csökkentésének módját, mivel az ML-következtetések az alkalmazások nagyarányú futtatására fordított teljes infrastrukturális ráfordítás akár 90%-át is képviselhetik. Ezzel az új ajánlattal az ügyfelek kihasználhatják a Graviton2 ár/teljesítmény előnyeit, hogy GPU-gyorsított mély tanulási modelleket telepíthessenek lényegesen alacsonyabb költségek mellett, mint a GPU-gyorsítással rendelkező x86-alapú példányok.

AWS és NVIDIA: Az együttműködés hosszú története

Az AWS és az NVIDIA több mint 10 éve működik együtt, hogy folyamatosan hatékony, költséghatékony és rugalmas GPU-alapú megoldásokat kínáljanak ügyfeleinek, beleértve a legújabb EC2 G4 példányok a 4-ben piacra dobott NVIDIA T2019 GPU-kkal és EC2 P4d példányok Az EC100 P2020d példányokat az EC2 UltraClusters nevű hiperskálás fürtökben telepítik, amelyek a legnagyobb teljesítményű számítási, hálózati és tárolási felhőből állnak. Az EC4 UltraClusters támogatja a 2 Gbps-os példányhálózatot, az Elastic Fabric Adapter-t (EFA) és az NVIDIA GPUDirect RDMA technológiát, hogy segítse az ML-modellek gyors betanítását a méretezési és elosztott technikák segítségével.

Amellett, hogy a felhőben elsőként kínálunk GPU-gyorsított példányokat, és a felhőben elsőként kínálunk NVIDIA V100 GPU-kat, most az NVIDIA-val együtt azon dolgozunk, hogy olyan új EC2-példányokat kínáljunk, amelyek Arm-alapú processzort és GPU-gyorsítót kombinálnak. 2021 második fele. Ha többet szeretne megtudni arról, hogyan működik együtt az AWS és az NVIDIA, hogy innovatív technológiát vigyen el az ügyfelekhez, látogassa meg a AWS az NVIDIA GTC 21-nél.

A szerzőről

Geoff Murase Az AWS EC2 gyorsított számítástechnikai példányok vezető termékmarketing-menedzsere, aki hardveralapú számítási gyorsítókhoz, például grafikus feldolgozóegységekhez (GPU-k) vagy terepi programozható kaputömbökhöz (FPGA-k) való hozzáférés biztosításával segíti az ügyfeleket számítási igényeik kielégítésében. Szabadidejében szívesen kosárlabdázik és kerékpározik családjával.

Forrás: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/