AWS і NVIDIA перенесуть екземпляри Graviton2 на основі Arm з графічними процесорами в хмару

AWS продовжує впроваджувати інновації від імені наших клієнтів. Ми працюємо з NVIDIA над створенням графічного процесора NVIDIA на основі процесора Arm Обчислювальна хмара Amazon Elastic (Amazon EC2) у хмару в другій половині 2021 року. Цей екземпляр матиме Процесор AWS Graviton2, створений AWS з нуля та оптимізований для того, як клієнти виконують свої робочі навантаження в хмарі, усуваючи багато непотрібних компонентів, які інакше могли б увійти в процесор загального призначення.

Інновація AWS із процесорами Graviton2

AWS продовжує розробляти хмарні обчислення для наших клієнтів. У 2018 році AWS був першим великим хмарним постачальником, який запропонував інстанси на основі Arm у хмарі з інстансами EC2 A1 на базі процесорів AWS Graviton. Ці екземпляри побудовані на основі ядер Arm і широко використовують кремнієві компоненти AWS, виготовлені на замовлення. Вони чудово підходять для масштабованих робочих навантажень, у яких ви можете розподілити навантаження між групою менших екземплярів.

У 2020 році AWS випустила розроблені AWS процесори Graviton2 на базі Arm, що забезпечує значний стрибок у продуктивності та можливостях у порівнянні з процесорами AWS Graviton першого покоління. Ці процесори живлять екземпляри загального призначення EC2 (M6g, M6gd, T4g), оптимізовані для обчислень (C6g, C6gd, C6gn) і оптимізовані для пам’яті (R6g, R6gd, X2gd) і забезпечують до 40% кращу цінову продуктивність порівняно з поточними. покоління x86-примірників для різноманітних робочих навантажень. Процесори AWS Graviton2 забезпечують у сім разів більшу продуктивність, у чотири рази більше обчислювальних ядер, у п’ять разів швидше пам’ять і вдвічі більший обсяг кешу порівняно з процесорами AWS Graviton першого покоління.

Клієнти, зокрема Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap і Twitter, відзначили значне підвищення продуктивності та зниження витрат завдяки запуску інстанцій на базі AWS Graviton2 у виробництві. Процесори AWS Graviton2, засновані на 64-розрядній архітектурі Arm, підтримуються популярними операційними системами Linux, включаючи Amazon Linux 2, Red Hat, SUSE та Ubuntu. Багато популярних програм і сервісів від AWS і ISV також підтримують екземпляри на базі AWS Graviton2. Розробники Arm можуть використовувати ці екземпляри для створення додатків у хмарі, таким чином усуваючи потребу в емуляції та крос-компіляції, які є схильними до помилок і займають багато часу. Додавання графічних процесорів NVIDIA прискорює інстанси на основі Graviton2 для різноманітних хмарних робочих навантажень, включаючи ігри та інші робочі навантаження на основі Arm, як-от машинне навчання (ML).

Легко перемістіть ігри Android у хмару

За оцінками дослідження від App Annie, зараз мобільні ігри є найпопулярнішим видом ігор і витіснили консолі, ПК і Mac. Додатковий дослідження від App Annie показав, що до 10% усього часу, проведеного на мобільних пристроях, припадає на ігри, і розробники ігор повинні підтримувати та оптимізувати свої ігри для різноманітних мобільних пристроїв, які використовуються сьогодні та в майбутньому. Використовуючи хмару, розробники ігор можуть забезпечити однакову взаємодію з усім спектром мобільних пристроїв і подовжити термін служби батареї завдяки меншим вимогам до обчислювальної техніки та потужності мобільного пристрою. Екземпляр AWS Graviton2 із прискоренням графічного процесора NVIDIA дозволяє розробникам ігор запускати ігри Android нативно, кодувати відтворену графіку та транслювати гру через мережі на мобільний пристрій без необхідності запускати програмне забезпечення для емуляції на інфраструктурі на базі ЦП x86.

Економічне машинне навчання на основі GPU

Окрім мобільних ігор, клієнти, які використовують моделі машинного навчання у виробництві, постійно шукають способи знизити витрати, оскільки ML може становити до 90% загальних витрат на інфраструктуру для запуску цих програм у масштабі. Завдяки цій новій пропозиції клієнти зможуть скористатися перевагами Graviton2 у співвідношенні ціни та продуктивності для розгортання моделей глибокого навчання з прискоренням графічного процесора за значно нижчою ціною порівняно з екземплярами на базі x86 із прискоренням графічного процесора.

AWS і NVIDIA: довга історія співпраці

AWS і NVIDIA співпрацюють понад 10 років, щоб постійно надавати клієнтам потужні, економічно ефективні та гнучкі рішення на основі GPU, включаючи найновіші Екземпляри EC2 G4 з графічним процесором NVIDIA T4, випущеним у 2019 році Примірники EC2 P4d з графічним процесором NVIDIA A100, випущеним у 2020 році. Примірники EC2 P4d розгорнуті в гіпермасштабованих кластерах під назвою EC2 UltraClusters, які складаються з найвищої продуктивності обчислень, мереж і сховищ у хмарі. EC2 UltraClusters підтримують роботу в мережі інстанцій 400 Гбіт/с, адаптер EFA (Elastic Fabric Adapter) і технологію NVIDIA GPUDirect RDMA, щоб допомогти швидко навчити моделі ML за допомогою методів масштабування та розподіленості.

Окрім того, що ми першими в хмарі запропонували екземпляри з прискоренням графічного процесора та першими в хмарі, хто запропонував графічні процесори NVIDIA V100, ми зараз працюємо разом із NVIDIA, щоб запропонувати нові екземпляри EC2, які поєднують процесор на базі Arm із прискорювачем GPU у друга половина 2021 року. Щоб дізнатися більше про те, як AWS і NVIDIA співпрацюють, щоб надати клієнтам інноваційні технології, відвідайте AWS на NVIDIA GTC 21.

Про автора

Джефф Мурасе є старшим менеджером з маркетингу продуктів для екземплярів прискорених обчислень AWS EC2, допомагаючи клієнтам задовольнити їхні потреби в обчисленнях, надаючи доступ до апаратних прискорювачів обчислень, таких як графічні процесори (GPU) або програмовані вентильні масиви (FPGA). У вільний час він із сім’єю любить грати в баскетбол і їздити на велосипеді.

Джерело: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/