AWS ve NVIDIA, GPU'larla Arm tabanlı Graviton2 örneklerini buluta taşımak için

AWS, müşterilerimiz adına yenilik yapmaya devam ediyor. Arm işlemci tabanlı, NVIDIA GPU hızlandırmalı bir sistem getirmek için NVIDIA ile birlikte çalışıyoruz Amazon Elastik Bilgi İşlem Bulutu (Amazon EC2) örneğini 2021'in ikinci yarısında buluta aktarın. Bu örnek, Arm tabanlı AWS Graviton2 işlemciAWS tarafından sıfırdan oluşturulmuş ve müşterilerin iş yüklerini bulutta çalıştırma şekli için optimize edilmiş, aksi takdirde genel amaçlı bir işlemciye girebilecek pek çok gereksiz bileşeni ortadan kaldırmıştır.

Graviton2 işlemcilerle AWS inovasyonu

AWS, müşterilerimiz için bulut bilgi işlemine öncülük etmeye devam etti. 2018'de AWS, AWS Graviton işlemcileri tarafından desteklenen EC2 A1 bulut sunucuları ile bulutta Arm tabanlı bulut sunucuları sunan ilk büyük bulut sağlayıcısıydı. Bu bulut sunucuları, Arm çekirdekleri etrafında oluşturulmuştur ve AWS'nin özel olarak oluşturulmuş silikonunu kapsamlı bir şekilde kullanır. Yükü daha küçük örneklerden oluşan bir grup arasında paylaşabileceğiniz ölçeklenebilir iş yükleri için çok uygundurlar.

2020'de AWS, birinci nesil AWS Graviton işlemcilere göre performans ve yeteneklerde büyük bir sıçrama sağlayan AWS tasarımı, Arm tabanlı Graviton2 işlemcileri piyasaya sürdü. Bu işlemciler EC2 genel amaçlı (M6g, M6gd, T4g), işlem için optimize edilmiş (C6g, C6gd, C6gn) ve bellek için optimize edilmiş (R6g, R6gd, X2gd) bulut sunucularına güç sağlar ve karşılaştırılabilir akıma göre %40'a kadar daha iyi fiyat performansı sağlar çok çeşitli iş yükleri için nesil x86 tabanlı bulut sunucuları. AWS Graviton2 işlemciler, birinci nesil AWS Graviton işlemcilere göre yedi kat daha fazla performans, dört kat daha fazla işlem çekirdeği, beş kat daha hızlı bellek ve iki kat daha büyük önbellek sunar.

Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap ve Twitter gibi müşteriler, üretimde AWS Graviton2 tabanlı bulut sunucularını çalıştırarak önemli performans artışları ve azalan maliyetler gördüler. 2 bit Arm mimarisini temel alan AWS Graviton64 işlemcileri, Amazon Linux 2, Red Hat, SUSE ve Ubuntu gibi popüler Linux işletim sistemleri tarafından desteklenir. AWS ve ISV'lerdeki birçok popüler uygulama ve hizmet, AWS Graviton2 tabanlı bulut sunucularını da destekler. Arm geliştiricileri, bulutta yerel olarak uygulamalar oluşturmak için bu örnekleri kullanabilir, böylece hataya açık ve zaman alıcı öykünme ve çapraz derleme ihtiyacını ortadan kaldırır. NVIDIA GPU'ların eklenmesi, oyun ve makine öğrenimi (ML) çıkarımı gibi diğer Arm tabanlı iş yükleri dahil olmak üzere çeşitli bulut iş yükleri için Graviton2 tabanlı örnekleri hızlandırır.

Android oyunlarını kolayca buluta taşıyın

Göre App Annie'den araştırma, mobil oyun artık en popüler oyun biçimi ve konsol, PC ve Mac'i geride bıraktı. Ek olarak App Annie'den araştırma mobil cihazlarda harcanan tüm zamanın %10'a kadarının oyunlarla geçtiğini ve oyun geliştiricilerin bugün ve gelecekte kullanılan çeşitli mobil cihazlar için oyunlarını desteklemeleri ve optimize etmeleri gerektiğini göstermiştir. Oyun geliştiricileri, buluttan yararlanarak mobil cihaz yelpazesinde tek tip bir deneyim sağlayabilir ve mobil cihazdaki daha düşük bilgi işlem ve güç talepleri nedeniyle pil ömrünü uzatabilir. NVIDIA GPU hızlandırmalı AWS Graviton2 bulut sunucusu, oyun geliştiricilerin x86 CPU tabanlı altyapı üzerinde öykünme yazılımı çalıştırmaya gerek kalmadan Android oyunlarını yerel olarak çalıştırmasına, işlenmiş grafikleri kodlamasına ve ağlar üzerinden bir mobil cihaza oyun akışı yapmasına olanak tanır.

Uygun maliyetli, GPU tabanlı makine öğrenimi çıkarımı

Mobil oyunların yanı sıra, makine öğrenimi modellerini üretimde çalıştıran müşteriler sürekli olarak maliyetleri düşürmenin yollarını arıyor çünkü makine öğrenimi çıkarımı, bu uygulamaları geniş ölçekte çalıştırmak için yapılan toplam altyapı harcamalarının %90'ına kadarını temsil edebiliyor. Bu yeni teklifle müşteriler, GPU hızlandırmalı derin öğrenme modellerini, GPU hızlandırmalı x2 tabanlı bulut sunucularına kıyasla önemli ölçüde daha düşük maliyetle devreye almak için Graviton86'nin fiyat/performans avantajlarından yararlanabilecek.

AWS ve NVIDIA: Uzun bir işbirliği geçmişi

AWS ve NVIDIA, en yenileri de dahil olmak üzere müşterilere sürekli olarak güçlü, uygun maliyetli ve esnek GPU tabanlı çözümler sunmak için 10 yılı aşkın bir süredir iş birliği yapmaktadır. EC2 G4 bulut sunucuları 4'da piyasaya sürülen NVIDIA T2019 GPU'larla ve EC2 P4d bulut sunucuları 100'de kullanıma sunulan NVIDIA A2020 GPU'larla. EC2 P4d bulut sunucuları, bulutta en yüksek performanslı bilgi işlem, ağ iletişimi ve depolamadan oluşan EC2 UltraClusters adı verilen hiper ölçekli kümelerde devreye alınır. EC2 UltraClusters, ölçeklendirme ve dağıtılmış teknikler kullanarak makine öğrenimi modellerinin hızla eğitilmesine yardımcı olmak için 400 Gb/sn bulut sunucusu ağı, Elastik Yapı Adaptörü (EFA) ve NVIDIA GPUDirect RDMA teknolojisini destekler.

Bulutta GPU hızlandırmalı bulut sunucuları sunan ilk ve bulutta NVIDIA V100 GPU'ları sunan ilk olmamızın yanı sıra, şimdi NVIDIA ile birlikte çalışarak Arm tabanlı işlemciyi GPU hızlandırıcıyla birleştiren yeni EC2 bulut sunucuları sunuyoruz. 2021'in ikinci yarısı. AWS ve NVIDIA'nın müşterilere yenilikçi teknoloji sunmak için nasıl birlikte çalıştığı hakkında daha fazla bilgi edinmek için şu adresi ziyaret edin: NVIDIA GTC 21'de AWS.

Yazar Hakkında

Geoff Murase AWS EC2 hızlandırılmış bilgi işlem örnekleri için Kıdemli bir Ürün Pazarlama Yöneticisi olup, Grafik İşlem Birimleri (GPU'lar) veya Alan Programlanabilir Kapı Dizileri (FPGA'lar) gibi donanım tabanlı hesaplama hızlandırıcılarına erişim sağlayarak müşterilerin bilgi işlem gereksinimlerini karşılamalarına yardımcı olur. Boş zamanlarında ailesiyle basketbol oynamaktan ve bisiklete binmekten hoşlanır.

Kaynak: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/