AWS и NVIDIA перенесут инстансы Graviton2 на базе Arm с графическими процессорами в облако

AWS продолжает внедрять инновации от имени наших клиентов. Мы работаем с NVIDIA над выпуском процессора Arm с ускорением NVIDIA GPU. Эластичное вычислительное облако Amazon (Amazon EC2) в облако во второй половине 2021 года. В этом экземпляре будет Процессор AWS Graviton2, созданный AWS с нуля и оптимизированный для того, как клиенты выполняют свои рабочие нагрузки в облаке, исключая множество ненужных компонентов, которые в противном случае могли бы использоваться в процессоре общего назначения.

Инновации AWS с процессорами Graviton2

AWS продолжает оставаться пионером облачных вычислений для наших клиентов. В 2018 году AWS стал первым крупным поставщиком облачных услуг, предложившим инстансы на базе Arm в облаке с инстансами EC2 A1 на базе процессоров AWS Graviton. Эти инстансы построены на ядрах Arm и широко используют специализированный кремний AWS. Они отлично подходят для горизонтально масштабируемых рабочих нагрузок, в которых вы можете распределить нагрузку между группой небольших экземпляров.

В 2020 году AWS выпустила разработанные AWS процессоры Graviton2 на базе Arm, обеспечивающие значительный скачок в производительности и возможностях по сравнению с процессорами AWS Graviton первого поколения. Эти процессоры используются в инстансах EC2 общего назначения (M6g, M6gd, T4g), оптимизированных для вычислений (C6g, C6gd, C6gn) и оптимизированных для памяти (R6g, R6gd, X2gd) и обеспечивают до 40 % лучшую цену и производительность по сравнению с нынешними аналогами. инстансы поколения x86 для широкого спектра рабочих нагрузок. Процессоры AWS Graviton2 обеспечивают в семь раз более высокую производительность, в четыре раза больше вычислительных ядер, в пять раз более быструю память и в два раза больше кэш-памяти по сравнению с процессорами AWS Graviton первого поколения.

Клиенты, в том числе Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap и Twitter, добились значительного повышения производительности и снижения затрат за счет запуска инстансов на базе AWS Graviton2 в производственной среде. Процессоры AWS Graviton2 на базе 64-разрядной архитектуры Arm поддерживаются популярными операционными системами Linux, включая Amazon Linux 2, Red Hat, SUSE и Ubuntu. Многие популярные приложения и сервисы от AWS и независимых поставщиков программного обеспечения также поддерживают инстансы на базе AWS Graviton2. Разработчики Arm могут использовать эти экземпляры для создания приложений в облаке, тем самым устраняя необходимость в эмуляции и кросс-компиляции, которые подвержены ошибкам и отнимают много времени. Добавление графических процессоров NVIDIA ускоряет экземпляры на базе Graviton2 для различных облачных рабочих нагрузок, включая игры и другие рабочие нагрузки на основе Arm, такие как вывод машинного обучения (ML).

Легко перемещайте игры для Android в облако

По исследование от App Annie, мобильные игры в настоящее время являются самой популярной формой игр и обогнали консоли, ПК и Mac. Дополнительный исследование от App Annie показал, что до 10% всего времени, проведенного на мобильных устройствах, приходится на игры, и разработчикам игр необходимо поддерживать и оптимизировать свои игры для разнообразных мобильных устройств, используемых сегодня и в будущем. Используя облако, разработчики игр могут обеспечить унифицированный опыт для всего спектра мобильных устройств и продлить срок службы батареи за счет более низких требований к вычислительным ресурсам и мощности мобильного устройства. Экземпляр AWS Graviton2 с ускорением NVIDIA GPU позволяет разработчикам игр запускать игры для Android в исходном виде, кодировать отрендеренную графику и передавать игру по сети на мобильное устройство без необходимости запуска программного обеспечения для эмуляции в инфраструктуре на базе процессора x86.

Экономичный вывод машинного обучения на основе графического процессора

В дополнение к мобильным играм клиенты, использующие модели машинного обучения в производственной среде, постоянно ищут способы снижения затрат, поскольку на вывод ML может приходиться до 90 % общих затрат на инфраструктуру для запуска этих приложений в масштабе. Благодаря этому новому предложению клиенты смогут воспользоваться преимуществами Graviton2 по соотношению цена/производительность для развертывания моделей глубокого обучения с ускорением на GPU при значительно меньших затратах по сравнению с инстансами на базе x86 с ускорением на GPU.

AWS и NVIDIA: долгая история сотрудничества

AWS и NVIDIA сотрудничают уже более 10 лет, постоянно предоставляя клиентам мощные, экономичные и гибкие решения на базе графических процессоров, включая новейшие Экземпляры EC2 G4 с графическими процессорами NVIDIA T4, выпущенными в 2019 году, и Экземпляры EC2 P4d с графическими процессорами NVIDIA A100, запущенными в 2020 году. Инстансы EC2 P4d развернуты в гипермасштабируемых кластерах, называемых EC2 UltraClusters, которые состоят из высокопроизводительных вычислений, сетей и хранилищ в облаке. Ультракластеры EC2 поддерживают сеть инстансов со скоростью 400 Гбит/с, адаптер Elastic Fabric (EFA) и технологию NVIDIA GPUDirect RDMA, помогая быстро обучать модели машинного обучения с использованием методов горизонтального масштабирования и распределенных вычислений.

Помимо того, что мы первыми в облаке предложили инстансы с ускорением на графическом процессоре и первыми в облаке предложили графические процессоры NVIDIA V100, мы сейчас работаем вместе с NVIDIA, чтобы предложить новые инстансы EC2, которые сочетают в себе процессор на базе Arm с ускорителем графического процессора в вторая половина 2021 года. Чтобы узнать больше о том, как AWS и NVIDIA работают вместе, чтобы предлагать клиентам инновационные технологии, посетите AWS на выставке NVIDIA GTC 21.

Об авторе

Джефф Мурасе является старшим менеджером по маркетингу продуктов для ускоренных вычислительных экземпляров AWS EC2, помогая клиентам удовлетворять свои вычислительные потребности, предоставляя доступ к аппаратным ускорителям вычислений, таким как графические процессоры (GPU) или программируемые вентильные массивы (FPGA). В свободное время он любит играть в баскетбол и кататься на велосипеде со своей семьей.

Источник: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/