AWS And NVIDIA To Bring Arm-based Graviton2 Instances With GPUs To The Cloud

بازنشر افلاطون

دنبال: 0

AWS به نوآوری از طرف مشتریان خود ادامه می دهد. ما در حال کار با NVIDIA هستیم تا یک پردازنده گرافیکی مبتنی بر Arm و پردازنده گرافیکی NVIDIA شتاب‌دهنده ارائه دهیم. ابر محاسبه الاستیک آمازون نمونه (Amazon EC2) به فضای ابری در نیمه دوم سال 2021. این نمونه دارای سیستم مبتنی بر Arm است پردازنده AWS Graviton2، که از ابتدا توسط AWS ساخته شد و برای نحوه اجرای بارهای کاری توسط مشتریان در فضای ابری بهینه سازی شد و بسیاری از اجزای غیر ضروری را که در غیر این صورت ممکن است وارد یک پردازنده همه منظوره شوند حذف می کند.

نوآوری AWS با پردازنده های Graviton2

AWS به پیشگام بودن محاسبات ابری برای مشتریان خود ادامه داده است. در سال 2018، AWS اولین ارائه‌دهنده بزرگ ابری بود که نمونه‌های مبتنی بر Arm را در فضای ابری با نمونه‌های EC2 A1 مجهز به پردازنده‌های AWS Graviton ارائه کرد. این نمونه‌ها حول هسته‌های Arm ساخته شده‌اند و از سیلیکون سفارشی AWS استفاده می‌کنند. آنها برای بارهای کاری کوچک مناسب هستند که در آنها می توانید بار را در گروهی از نمونه های کوچکتر به اشتراک بگذارید.

در سال 2020، AWS پردازنده‌های Graviton2 مبتنی بر Arm با طراحی AWS را منتشر کرد که جهشی بزرگ در عملکرد و قابلیت‌ها نسبت به پردازنده‌های نسل اول AWS Graviton ایجاد کرد. این پردازنده‌ها نمونه‌های EC2 (M6g, M6gd, T4g)، بهینه‌سازی محاسبه (C6g, C6gd, C6gn) و بهینه‌سازی حافظه (R6g, R6gd, X2gd) را تامین می‌کنند و تا 40 درصد عملکرد قیمت بهتری نسبت به جریان قابل مقایسه ارائه می‌کنند. نمونه های مبتنی بر x86 برای طیف گسترده ای از بارهای کاری. پردازنده‌های AWS Graviton2 عملکرد هفت برابر بیشتر، هسته‌های محاسباتی چهار برابر بیشتر، حافظه پنج برابر سریع‌تر و حافظه نهان دو برابر بیشتر از پردازنده‌های نسل اول AWS Graviton ارائه می‌کنند.

مشتریانی از جمله Domo، Formula One، Honeycomb.io، Intuit، LexisNexis Risk Solutions، Nielsen، NextRoll، Redbox، SmugMug، Snap و Twitter دستاوردهای قابل توجهی در عملکرد و کاهش هزینه ها از اجرای نمونه های مبتنی بر AWS Graviton2 در تولید داشته اند. پردازنده های AWS Graviton2، بر اساس معماری Arm 64 بیتی، توسط سیستم عامل های محبوب لینوکس، از جمله Amazon Linux 2، Red Hat، SUSE و Ubuntu پشتیبانی می شوند. بسیاری از برنامه ها و سرویس های محبوب AWS و ISV از نمونه های مبتنی بر AWS Graviton2 نیز پشتیبانی می کنند. توسعه دهندگان بازو می توانند از این نمونه ها برای ساخت برنامه های کاربردی به صورت بومی در فضای ابری استفاده کنند و در نتیجه نیاز به شبیه سازی و کامپایل متقابل را که مستعد خطا و وقت گیر هستند، از بین ببرند. افزودن پردازنده‌های گرافیکی NVIDIA، نمونه‌های مبتنی بر Graviton2 را برای بارهای کاری ابری متنوع، از جمله بازی‌ها و سایر بارهای کاری مبتنی بر بازو مانند استنتاج یادگیری ماشین (ML) تسریع می‌کند.

بازی های اندروید را به راحتی به فضای ابری منتقل کنید

مطابق با تحقیق از App Annie، بازی موبایل در حال حاضر محبوب ترین شکل بازی است و از کنسول، رایانه شخصی و مک پیشی گرفته است. اضافی تحقیق از App Annie نشان داده است که تا 10 درصد از کل زمان صرف شده در دستگاه های تلفن همراه مربوط به بازی ها است و توسعه دهندگان بازی باید از بازی های خود برای مجموعه متنوعی از دستگاه های تلفن همراه که امروزه و در آینده استفاده می شوند پشتیبانی و بهینه سازی کنند. با استفاده از فضای ابری، توسعه‌دهندگان بازی می‌توانند تجربه یکنواختی را در سراسر طیف دستگاه‌های تلفن همراه ارائه دهند و به دلیل نیازهای کمتر محاسباتی و انرژی در دستگاه تلفن همراه، عمر باتری را افزایش دهند. نمونه AWS Graviton2 با شتاب GPU NVIDIA به توسعه دهندگان بازی این امکان را می دهد تا بازی های اندروید را به صورت بومی اجرا کنند، گرافیک های رندر شده را رمزگذاری کنند، و بازی را از طریق شبکه به دستگاه تلفن همراه پخش کنند، همه اینها بدون نیاز به اجرای نرم افزار شبیه سازی بر روی زیرساخت مبتنی بر پردازنده x86.

استنتاج یادگیری ماشینی مقرون به صرفه و مبتنی بر GPU

علاوه بر بازی‌های موبایلی، مشتریانی که از مدل‌های یادگیری ماشینی در تولید استفاده می‌کنند، پیوسته به دنبال راه‌هایی برای کاهش هزینه‌ها هستند، زیرا استنباط ML می‌تواند تا 90 درصد از زیرساخت کلی هزینه شده برای اجرای این برنامه‌ها در مقیاس را نشان دهد. با این پیشنهاد جدید، مشتریان می‌توانند از مزایای قیمت/عملکرد Graviton2 برای استقرار مدل‌های یادگیری عمیق شتاب‌دار GPU با هزینه بسیار کمتر در مقایسه با نمونه‌های مبتنی بر x86 با شتاب GPU استفاده کنند.

AWS و NVIDIA: سابقه طولانی همکاری

AWS و NVIDIA بیش از 10 سال است که برای ارائه مداوم راه حل های قدرتمند، مقرون به صرفه و منعطف مبتنی بر GPU به مشتریان از جمله جدیدترین ها با یکدیگر همکاری کرده اند. نمونه های EC2 G4 با پردازنده های گرافیکی NVIDIA T4 که در سال 2019 راه اندازی شد و نمونه های EC2 P4d با پردازنده‌های گرافیکی NVIDIA A100 که در سال 2020 راه‌اندازی شد. نمونه‌های EC2 P4d در خوشه‌های فرامقیاس به نام EC2 UltraCluster که از بالاترین عملکرد محاسباتی، شبکه‌سازی و ذخیره‌سازی در فضای ابری تشکیل شده‌اند، مستقر شده‌اند. EC2 UltraClusters از شبکه‌های نمونه 400 گیگابیت بر ثانیه، آداپتور پارچه‌ای الاستیک (EFA) و فناوری NVIDIA GPUDirect RDMA پشتیبانی می‌کند تا به آموزش سریع مدل‌های ML با استفاده از تکنیک‌های مقیاس‌پذیر و توزیع‌شده کمک کند.

علاوه بر اینکه اولین بار در فضای ابری هستیم که نمونه‌های شتاب‌دهنده‌ی GPU را ارائه می‌کنیم و اولین بار در فضای ابری هستیم که پردازنده‌های گرافیکی NVIDIA V100 را ارائه می‌کنیم، اکنون در حال همکاری با انویدیا هستیم تا نمونه‌های جدید EC2 را ارائه دهیم که یک پردازنده مبتنی بر Arm را با یک شتاب‌دهنده GPU در سیستم‌های گرافیکی ترکیب می‌کند. نیمه دوم سال 2021. برای آشنایی بیشتر با نحوه همکاری AWS و NVIDIA برای ارائه فناوری نوآورانه به مشتریان، به این سایت مراجعه کنید. AWS در NVIDIA GTC 21.

درباره نویسنده

جف موراس یک مدیر ارشد بازاریابی محصول برای نمونه‌های محاسباتی تسریع‌شده AWS EC2 است که به مشتریان کمک می‌کند تا با فراهم کردن دسترسی به شتاب‌دهنده‌های محاسباتی مبتنی بر سخت‌افزار مانند واحدهای پردازش گرافیکی (GPU) یا آرایه‌های دروازه قابل برنامه‌ریزی میدانی (FPGA) نیازهای محاسباتی خود را برآورده کنند. او در اوقات فراغت خود از بازی بسکتبال و دوچرخه سواری با خانواده لذت می برد.