AWS和NVIDIA将基于GPU的基于Arm的Graviton2实例引入云

AWS继续代表我们的客户进行创新。 我们正在与NVIDIA合作，推出基于Arm处理器的NVIDIA GPU加速 亚马逊弹性计算云 （Amazon EC2）实例将于2021年下半年发布到云中。该实例将采用基于Arm的实例 AWS Graviton2处理器，它是由AWS从头开始构建的，并针对客户如何在云中运行其工作负载进行了优化，从而消除了许多不必要的组件，这些组件否则可能会进入通用处理器中。

带有Graviton2处理器的AWS创新

AWS继续为我们的客户率先开发云计算。 在2018年，AWS是第一家在云中提供基于Arm的实例以及由AWS Graviton处理器支持的EC2 A1实例的主要云提供商。 这些实例围绕Arm核心构建，并广泛使用AWS定制的芯片。 它们非常适合横向扩展工作负载，在这些工作负载中，您可以在一组较小的实例之间共享负载。

2020年，AWS发布了AWS设计的基于Arm的Graviton2处理器，与第一代AWS Graviton处理器相比，其性能和功能有了重大飞跃。 这些处理器为EC2通用（M6g，M6gd，T4g），计算优化的（C6g，C6gd，C6gn）和内存优化的（R6g，R6gd，X2gd）实例提供动力，并在可比的电流范围内提供高达40％的价格优势生成用于各种工作负载的基于x86的实例。 与第一代AWS Graviton处理器相比，AWS Graviton2处理器可提供七倍的性能，四倍的计算核心，五倍的内存，并且缓存量是第一代AWS Graviton处理器的两倍。

包括Domo，一级方程式，Honeycomb.io，Intuit，LexisNexis Risk Solutions，Nielsen，NextRoll，Redbox，SmugMug，Snap和Twitter在内的客户已在生产中运行基于AWS Graviton2的实例，从而获得了显着的性能提升并降低了成本。 流行的Linux操作系统（基于Amazon Linux 2，Red Hat，SUSE和Ubuntu）支持基于64位Arm架构的AWS Graviton2处理器。 AWS和ISV的许多流行应用程序和服务也支持基于AWS Graviton2的实例。 Arm开发人员可以使用这些实例在云中本地构建应用程序，从而消除了容易出错且耗时的仿真和交叉编译的需求。 添加NVIDIA GPU可以加速基于Graviton2的实例，以应对各种云工作负载，包括游戏和其他基于Arm的工作负载，例如机器学习（ML）推理。

轻松将Android游戏移至云端

根据 App Annie的研究，移动游戏现在是最流行的游戏形式，已经取代了控制台，PC和Mac。 额外的 App Annie的研究 数据显示，在移动设备上花费的所有时间中，多达10％用于游戏，并且游戏开发人员需要支持和优化他们的游戏，以适应当前和将来使用的各种移动设备。 通过利用云，游戏开发人员可以在整个移动设备范围内提供统一的体验，并由于对移动设备的计算和功耗需求降低而延长了电池寿命。 带有NVIDIA GPU加速功能的AWS Graviton2实例使游戏开发人员可以原生运行Android游戏，对渲染的图形进行编码，并通过网络将游戏流式传输到移动设备，而无需在基于x86 CPU的基础架构上运行仿真软件。

具有成本效益的基于GPU的机器学习推理

除了移动游戏外，在生产环境中运行机器学习模型的客户还在不断寻找降低成本的方法，因为机器学习推理可占大规模运行这些应用程序的基础设施总支出的90％。 借助这一新产品，客户将能够利用Graviton2的价格/性能优势，以比采用GPU加速的基于x86的实例低得多的成本部署GPU加速的深度学习模型。

AWS和NVIDIA：悠久的合作历史

AWS和NVIDIA已经合作了10多年，不断为客户提供功能强大，经济高效且灵活的基于GPU的解决方案，包括最新的 EC2 G4实例 搭配4年推出的NVIDIA T2019 GPU和 EC2 P4d实例 100年推出NVIDIA A2020GPU。EC2P4d实例部署在称为EC2 UltraClusters的超大规模集群中，该集群由云中性能最高的计算，网络和存储组成。 EC2 UltraClusters支持400 Gbps实例网络，Elastic Fabric Adapter（EFA）和NVIDIA GPUDirect RDMA技术，以使用横向扩展和分布式技术帮助快速训练ML模型。

除了在云中率先提供GPU加速实例，并在云中率先提供NVIDIA V100 GPU之外，我们现在还与NVIDIA合作，提供新的EC2实例，该实例将基于Arm的处理器与GPU加速器结合在一起。 2021年下半年，要了解有关AWS和NVIDIA如何共同为客户带来创新技术的更多信息，请访问 NVIDIA GTC 21上的AWS.

关于作者

杰夫·村濑 是AWS EC2加速计算实例的高级产品营销经理，通过提供对基于硬件的计算加速器（例如图形处理单元（GPU）或现场可编程门阵列（FPGA））的访问来帮助客户满足其计算需求。 在业余时间，他喜欢打篮球和与家人一起骑自行车。

资料来源：https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/