AWS dan NVIDIA untuk menghadirkan instans Graviton2 berbasis Arm dengan GPU ke cloud

AWS terus berinovasi atas nama pelanggan kami. Kami bekerja dengan NVIDIA untuk menghadirkan akselerasi GPU NVIDIA berbasis prosesor Arm Cloud komputasi elastis Amazon Instans (Amazon EC2) ke cloud pada paruh kedua tahun 2021. Instans ini akan menampilkan berbasis Arm Prosesor AWS Graviton2, yang dibuat dari awal oleh AWS dan dioptimalkan untuk cara pelanggan menjalankan beban kerja mereka di cloud, menghilangkan banyak komponen yang tidak diperlukan yang mungkin masuk ke prosesor tujuan umum.

Inovasi AWS dengan prosesor Graviton2

AWS terus menjadi pelopor komputasi awan bagi pelanggan kami. Pada tahun 2018, AWS adalah penyedia cloud besar pertama yang menawarkan instans berbasis Arm di cloud dengan instans EC2 A1 yang didukung oleh prosesor AWS Graviton. Instans ini dibuat dengan inti Arm dan menggunakan silikon yang dibuat khusus untuk AWS secara ekstensif. Mereka sangat cocok untuk beban kerja scale-out di mana Anda dapat berbagi beban ke sekelompok instance yang lebih kecil.

Pada tahun 2020, AWS merilis prosesor Graviton2 berbasis Arm yang dirancang AWS, memberikan lompatan besar dalam kinerja dan kemampuan dibandingkan prosesor AWS Graviton generasi pertama. Prosesor ini mendukung instans tujuan umum EC2 (M6g, M6gd, T4g), komputasi (C6g, C6gd, C6gn), dan memori dioptimalkan (R6g, R6gd, X2gd), dan memberikan kinerja harga hingga 40% lebih baik dibandingkan arus yang sebanding generasi instance berbasis x86 untuk berbagai macam beban kerja. Prosesor AWS Graviton2 menghadirkan kinerja tujuh kali lebih banyak, core komputasi empat kali lebih banyak, memori lima kali lebih cepat, dan cache dua kali lebih besar dari prosesor AWS Graviton generasi pertama.

Pelanggan termasuk Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap, dan Twitter telah melihat peningkatan kinerja yang signifikan dan pengurangan biaya dari menjalankan instans berbasis AWS Graviton2 dalam produksi. Prosesor AWS Graviton2, berdasarkan arsitektur Arm 64-bit, didukung oleh sistem operasi Linux yang populer, termasuk Amazon Linux 2, Red Hat, SUSE, dan Ubuntu. Banyak aplikasi dan layanan populer dari AWS dan ISV juga mendukung instans berbasis AWS Graviton2. Pengembang lengan dapat menggunakan instance ini untuk membangun aplikasi secara native di cloud, sehingga menghilangkan kebutuhan untuk emulasi dan kompilasi silang, yang rawan kesalahan dan memakan waktu. Menambahkan GPU NVIDIA mempercepat instans berbasis Graviton2 untuk berbagai beban kerja cloud, termasuk game dan beban kerja berbasis Arm lainnya seperti inferensi pembelajaran mesin (ML).

Pindahkan game Android ke cloud dengan mudah

Menurut penelitian dari App Annie, mobile gaming kini menjadi bentuk permainan yang paling populer dan telah menyalip konsol, PC, dan Mac. Tambahan penelitian dari App Annie telah menunjukkan bahwa hingga 10% dari semua waktu yang dihabiskan di perangkat seluler adalah dengan game, dan pengembang game perlu mendukung dan mengoptimalkan game mereka untuk beragam perangkat seluler yang digunakan saat ini dan di masa depan. Dengan memanfaatkan cloud, pengembang game dapat memberikan pengalaman yang seragam di seluruh spektrum perangkat seluler dan memperpanjang masa pakai baterai karena komputasi yang lebih rendah dan kebutuhan daya pada perangkat seluler. Instans AWS Graviton2 dengan akselerasi GPU NVIDIA memungkinkan pengembang game untuk menjalankan game Android secara asli, menyandikan grafik yang dirender, dan mengalirkan game melalui jaringan ke perangkat seluler, semuanya tanpa perlu menjalankan perangkat lunak emulasi pada infrastruktur berbasis CPU x86.

Inferensi pembelajaran mesin berbasis GPU yang hemat biaya

Selain game seluler, pelanggan yang menjalankan model pembelajaran mesin dalam produksi terus mencari cara untuk menurunkan biaya karena inferensi ML dapat mewakili hingga 90% dari keseluruhan pengeluaran infrastruktur untuk menjalankan aplikasi ini dalam skala besar. Dengan penawaran baru ini, pelanggan akan dapat memanfaatkan keuntungan harga / kinerja Graviton2 untuk menerapkan model pembelajaran mendalam yang dipercepat GPU dengan biaya yang jauh lebih rendah dibandingkan dengan instans berbasis x86 dengan akselerasi GPU.

AWS dan NVIDIA: Sejarah kolaborasi yang panjang

AWS dan NVIDIA telah berkolaborasi selama lebih dari 10 tahun untuk terus menghadirkan solusi berbasis GPU yang kuat, hemat biaya, dan fleksibel kepada pelanggan termasuk yang terbaru Instans EC2 G4 dengan GPU NVIDIA T4 yang diluncurkan pada 2019 dan Instans EC2 P4d dengan GPU NVIDIA A100 yang diluncurkan pada tahun 2020. Instans EC2 P4d diterapkan dalam kluster hiperskala yang disebut EC2 UltraClusters yang terdiri dari komputasi, jaringan, dan penyimpanan berkinerja tertinggi di cloud. EC2 UltraClusters mendukung jaringan instans 400 Gbps, Adaptor Fabric Elastis (EFA), dan teknologi NVIDIA GPUDirect RDMA untuk membantu melatih model ML dengan cepat menggunakan teknik skala-out dan terdistribusi.

Selain menjadi yang pertama di cloud yang menawarkan instans akselerasi GPU dan yang pertama di cloud yang menawarkan GPU NVIDIA V100, kami sekarang bekerja sama dengan NVIDIA untuk menawarkan instans EC2 baru yang menggabungkan prosesor berbasis Arm dengan akselerator GPU di paruh kedua tahun 2021. Untuk mempelajari selengkapnya tentang bagaimana AWS dan NVIDIA bekerja sama untuk menghadirkan teknologi inovatif kepada pelanggan, kunjungi AWS di NVIDIA GTC 21.

tentang Penulis

Geoff Murase adalah Manajer Pemasaran Produk Senior untuk mesin virtual percepatan AWS EC2, membantu pelanggan memenuhi kebutuhan komputasi mereka dengan menyediakan akses ke akselerator komputasi berbasis perangkat keras seperti Unit Pemrosesan Grafis (GPU) atau Array Gerbang Programmable Lapangan (FPGA). Di waktu luangnya, ia menikmati bermain basket dan bersepeda bersama keluarganya.

Sumber: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/