Η AWS και η NVIDIA φέρνουν στιγμιότυπα Graviton2 με βάση το Arm με GPU στο cloud

Κόμβος πηγής: 807655

Η AWS συνεχίζει να καινοτομεί για λογαριασμό των πελατών μας. Συνεργαζόμαστε με τη NVIDIA για να φέρουμε έναν επεξεργαστή Arm, με επιτάχυνση της NVIDIA GPU Amazon Elastic Compute Cloud (Amazon EC2) στο σύννεφο το δεύτερο εξάμηνο του 2021. Αυτό το παράδειγμα θα περιλαμβάνει το Arm-based Επεξεργαστής AWS Graviton2, το οποίο δημιουργήθηκε από την αρχή από την AWS και βελτιστοποιήθηκε για τον τρόπο με τον οποίο οι πελάτες εκτελούν τον φόρτο εργασίας τους στο cloud, εξαλείφοντας πολλά περιττά στοιχεία που διαφορετικά θα μπορούσαν να μεταφερθούν σε έναν επεξεργαστή γενικής χρήσης.

Καινοτομία AWS με επεξεργαστές Graviton2

Η AWS συνέχισε να πρωτοπορεί στο cloud computing για τους πελάτες μας. Το 2018, η AWS ήταν ο πρώτος μεγάλος πάροχος cloud που πρόσφερε παρουσίες βασισμένες σε Arm στο cloud με παρουσίες EC2 A1 που τροφοδοτούνται από επεξεργαστές AWS Graviton. Αυτές οι περιπτώσεις είναι χτισμένες γύρω από πυρήνες Arm και κάνουν εκτεταμένη χρήση πυριτίου προσαρμοσμένης κατασκευής AWS. Ταιριάζουν πολύ σε φόρτους εργασίας με μείωση της κλίμακας, όπου μπορείτε να μοιραστείτε το φορτίο σε μια ομάδα μικρότερων περιπτώσεων.

Το 2020, η AWS κυκλοφόρησε επεξεργαστές Graviton2, σχεδιασμένους από AWS, βασισμένους σε Arm, προσφέροντας ένα σημαντικό άλμα στην απόδοση και τις δυνατότητες σε σχέση με τους επεξεργαστές AWS Graviton πρώτης γενιάς. Αυτοί οι επεξεργαστές τροφοδοτούν περιπτώσεις EC2 γενικού σκοπού (M6g, M6gd, T4g), βελτιστοποιημένες για υπολογισμούς (C6g, C6gd, C6gn) και βελτιστοποιημένες για μνήμη (R6g, R6gd, X2gd) και παρέχουν έως και 40% καλύτερη απόδοση τιμής σε σχέση με το συγκρίσιμο ρεύμα παρουσίες που βασίζονται σε x86 για μεγάλη ποικιλία φόρτου εργασίας. Οι επεξεργαστές AWS Graviton2 παρέχουν επτά φορές μεγαλύτερη απόδοση, τέσσερις φορές περισσότερους υπολογιστικούς πυρήνες, πέντε φορές ταχύτερη μνήμη και κρυφές μνήμες διπλάσιες σε σχέση με τους επεξεργαστές AWS Graviton πρώτης γενιάς.

Οι πελάτες συμπεριλαμβανομένων των Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap και Twitter έχουν δει σημαντικά κέρδη απόδοσης και μειωμένο κόστος από την εκτέλεση παρουσιών που βασίζονται στο AWS Graviton2 στην παραγωγή. Οι επεξεργαστές AWS Graviton2, βασισμένοι στην αρχιτεκτονική Arm 64-bit, υποστηρίζονται από δημοφιλή λειτουργικά συστήματα Linux, συμπεριλαμβανομένων των Amazon Linux 2, Red Hat, SUSE και Ubuntu. Πολλές δημοφιλείς εφαρμογές και υπηρεσίες από AWS και ISV υποστηρίζουν επίσης περιπτώσεις που βασίζονται στο AWS Graviton2. Οι προγραμματιστές βραχίονα μπορούν να χρησιμοποιήσουν αυτές τις περιπτώσεις για να δημιουργήσουν εφαρμογές εγγενώς στο cloud, εξαλείφοντας έτσι την ανάγκη για εξομοίωση και διασταυρούμενη μεταγλώττιση, τα οποία είναι επιρρεπή σε σφάλματα και χρονοβόρα. Η προσθήκη γραφικών γραφικών NVIDIA επιταχύνει τις παρουσίες που βασίζονται στο Graviton2 για διάφορους φόρτους εργασίας στο cloud, συμπεριλαμβανομένων των παιχνιδιών και άλλων φορτίων εργασίας που βασίζονται σε βραχίονα, όπως η συμπερασματική συμπερασματική εκμάθηση μηχανικής εκμάθησης (ML).

Μετακινήστε εύκολα τα παιχνίδια Android στο cloud

Σύμφωνα με έρευνα από την App Annie, το gaming για κινητά είναι πλέον η πιο δημοφιλής μορφή παιχνιδιού και έχει ξεπεράσει τις κονσόλες, τον υπολογιστή και το Mac. Πρόσθετος έρευνα από την App Annie έχει δείξει ότι έως και το 10% όλου του χρόνου που αφιερώνεται σε κινητές συσκευές είναι με παιχνίδια και οι προγραμματιστές παιχνιδιών πρέπει να υποστηρίζουν και να βελτιστοποιούν τα παιχνίδια τους για το ποικίλο σύνολο κινητών συσκευών που χρησιμοποιούνται σήμερα και στο μέλλον. Αξιοποιώντας το cloud, οι προγραμματιστές παιχνιδιών μπορούν να παρέχουν μια ομοιόμορφη εμπειρία σε όλο το φάσμα των κινητών συσκευών και να επεκτείνουν τη διάρκεια ζωής της μπαταρίας λόγω χαμηλότερων απαιτήσεων υπολογισμού και ισχύος στην κινητή συσκευή. Η παρουσία AWS Graviton2 με επιτάχυνση GPU NVIDIA επιτρέπει στους προγραμματιστές παιχνιδιών να εκτελούν παιχνίδια Android εγγενώς, να κωδικοποιούν τα γραφικά που έχουν αποδοθεί και να μεταδίδουν το παιχνίδι μέσω δικτύων σε μια φορητή συσκευή, όλα αυτά χωρίς να χρειάζεται να εκτελούν λογισμικό εξομοίωσης σε υποδομή βασισμένη σε CPU x86.

Οικονομικά συμπεράσματα μηχανικής μάθησης που βασίζεται σε GPU

Εκτός από τα παιχνίδια για κινητά, οι πελάτες που χρησιμοποιούν μοντέλα μηχανικής εκμάθησης στην παραγωγή αναζητούν συνεχώς τρόπους για να μειώσουν το κόστος καθώς το συμπέρασμα ML μπορεί να αντιπροσωπεύει έως και το 90% των συνολικών δαπανών υποδομής για την εκτέλεση αυτών των εφαρμογών σε κλίμακα. Με αυτήν τη νέα προσφορά, οι πελάτες θα μπορούν να επωφεληθούν από τα πλεονεκτήματα τιμής/απόδοσης του Graviton2 για την ανάπτυξη μοντέλων βαθιάς εκμάθησης με επιτάχυνση GPU με σημαντικά χαμηλότερο κόστος σε σύγκριση με περιπτώσεις που βασίζονται σε x86 με επιτάχυνση GPU.

AWS και NVIDIA: Μια μακρά ιστορία συνεργασίας

Η AWS και η NVIDIA συνεργάζονται για περισσότερα από 10 χρόνια για να παρέχουν συνεχώς ισχυρές, οικονομικά αποδοτικές και ευέλικτες λύσεις βασισμένες σε GPU στους πελάτες, συμπεριλαμβανομένων των πιο πρόσφατων Στιγμιότυπα EC2 G4 με NVIDIA T4 GPU που κυκλοφόρησαν το 2019 και Στιγμιότυπα EC2 P4d με τις GPU NVIDIA A100 που κυκλοφόρησαν το 2020. Οι παρουσίες EC2 P4d αναπτύσσονται σε συμπλέγματα υπερκλίμακας που ονομάζονται EC2 UltraClusters που αποτελούνται από υπολογισμούς, δικτύωση και αποθήκευση με την υψηλότερη απόδοση στο cloud. Τα EC2 UltraClusters υποστηρίζουν δικτύωση παρουσίας 400 Gbps, Elastic Fabric Adapter (EFA) και τεχνολογία NVIDIA GPUDirect RDMA για να βοηθήσουν στην ταχεία εκπαίδευση μοντέλων ML χρησιμοποιώντας τεχνικές κλιμάκωσης και διανομής.

Εκτός από το ότι είμαστε πρώτοι στο cloud για να προσφέρουμε στιγμιότυπα με επιτάχυνση GPU και πρώτοι στο cloud για να προσφέρουμε GPU NVIDIA V100, τώρα συνεργαζόμαστε με τη NVIDIA για να προσφέρουμε νέες παρουσίες EC2 που συνδυάζουν έναν επεξεργαστή που βασίζεται σε βραχίονα με έναν επιταχυντή GPU στο δεύτερο εξάμηνο του 2021. Για να μάθετε περισσότερα σχετικά με το πώς το AWS και η NVIDIA συνεργάζονται για να προσφέρουν καινοτόμα τεχνολογία στους πελάτες, επισκεφθείτε AWS στο NVIDIA GTC 21.


Σχετικά με το Συγγραφέας

Geoff Murase είναι Ανώτερος Διευθυντής Μάρκετινγκ Προϊόντων για περιπτώσεις επιτάχυνσης υπολογιστών AWS EC2, βοηθώντας τους πελάτες να ανταποκριθούν στις υπολογιστικές τους ανάγκες παρέχοντας πρόσβαση σε επιταχυντές υπολογιστών που βασίζονται σε υλικό, όπως Μονάδες Επεξεργασίας Γραφικών (GPU) ή Προγραμματιζόμενες Συστοιχίες Πυλών Πεδίου (FPGA). Στον ελεύθερο χρόνο του, του αρέσει να παίζει μπάσκετ και να κάνει ποδήλατο με την οικογένειά του.

Πηγή: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/

Σφραγίδα ώρας:

Περισσότερα από Ιστολόγιο μηχανικής εκμάθησης AWS