엔비디아, 대규모 AI 및 HPC 앱용 Grace ARM 기반 CPU 공개

엔비디아 오늘 Grace 프로세서를 공개했습니다. 대규모 인공지능과 고성능 컴퓨팅 애플리케이션을 위한 ARM 기반 중앙처리장치(CPU)다. 엔비디아 CEO 젠슨 황(Jensen Huang)은 엔비디아의 기조연설에서 “이것은 엔비디아 최초의 데이터센터 CPU이며, 대규모로 운영되는 애플리케이션을 위해 특별히 제작된 것”이라고 말했습니다. GTC 2021 행사.

Grace는 에너지 효율적인 ARM 코어를 사용하여 거대 AI 모델을 교육하는 시스템의 성능을 10배 향상시킵니다. 그리고 엔비디아는 스위스 슈퍼컴퓨팅 센터와 미국 에너지부 산하 로스앨러모스 국립연구소가 Grace의 이름을 딴 Grace를 최초로 사용할 것이라고 밝혔습니다. 그레이스 호퍼1950년대 컴퓨터 프로그래밍을 개척한 사람입니다. CPU는 2023년 초에 출시될 것으로 예상됩니다.

“Grace는 획기적인 CPU입니다. Nvidia의 제품 관리 및 마케팅 담당 수석 이사인 Paresh Kharya는 언론 브리핑에서 이렇게 말했습니다.

Huang은 "테라바이트 규모의 컴퓨팅을 위해 설계된 세계 최초의 CPU입니다."라고 말했습니다.

위: Grace는 10,000년에 걸친 엔지니어링 작업의 결과입니다.

이미지 크레디트 : Nvidia

CPU는 10,000년 이상의 엔지니어링 작업의 결과입니다. 엔비디아는 이 칩이 자연어 처리, 추천 시스템, AI 슈퍼컴퓨팅 등 세계에서 가장 진보된 애플리케이션에 대한 컴퓨팅 요구 사항을 해결할 것이라고 밝혔습니다.
초고속 컴퓨팅 성능과 대용량 메모리가 모두 필요한 대규모 데이터 세트.

Grace는 에너지 효율적인 ARM CPU 코어와 혁신적인 저전력 메모리 하위 시스템을 결합하여 뛰어난 효율성과 함께 고성능을 제공합니다. 이 칩은 Neoverse라고 불리는 미래의 ARM 코어를 사용할 것입니다.

황은 연설에서 “최첨단 AI와 데이터 과학은 오늘날의 컴퓨터 아키텍처를 한계를 넘어 상상조차 할 수 없는 양의 데이터를 처리하고 있다”고 말했습니다. “Nvidia는 라이선스가 부여된 ARM IP를 사용하여 Grace를 대규모 AI 및 HPC용 CPU로 특별히 설계했습니다. GPU 및 DPU와 결합된 Grace는 컴퓨팅을 위한 세 번째 기본 기술과 AI 발전을 위해 데이터 센터를 재설계할 수 있는 기능을 제공합니다. Nvidia는 이제 3개의 칩을 보유한 회사입니다.”

Grace는 1조 개 이상의 매개변수가 있는 차세대 NLP 모델 교육과 같은 워크로드를 대상으로 하는 고도로 전문화된 프로세서입니다. Nvidia GPU와 긴밀하게 결합되면 Grace 기반 시스템은 x10 CPU에서 실행되는 오늘날의 Nvidia DGX 기반 시스템보다 86배 빠른 성능을 제공합니다. 언론 브리핑에서 누군가 Nvidia가 Intel 및 AMD의 x86 칩과 경쟁할 것인지 물었습니다.

Kharya는 "우리는 x86과 경쟁하지 않습니다. 우리는 계속해서 x86 CPU와 매우 잘 작동하고 있습니다."라고 말했습니다.

위: Alps 슈퍼컴퓨터는 Nvidia의 Grace CPU를 사용합니다.

이미지 크레디트 : Nvidia

Grace는 AI 및 HPC 애플리케이션용으로 설계되었지만 Nvidia는 현재 Grace가 어디에 사용될지에 대한 추가 정보를 공개하지 않습니다. Nvidia는 또한 Grace 칩의 트랜지스터 수 공개를 거부했습니다.

엔비디아는 데이터 양과 AI 모델의 규모가 기하급수적으로 증가함에 따라 Grace를 출시합니다. 오늘날의 가장 큰 AI 모델에는 수십억 개의 매개변수가 포함되어 있으며 2개월 반마다 두 배로 늘어나고 있습니다. 이를 훈련하려면 시스템 병목 현상을 제거하기 위해 GPU와 긴밀하게 결합할 수 있는 새로운 CPU가 필요합니다.

Moor Insights & Strategies의 분석가인 Patrick Moorhead는 "GTC 21의 가장 큰 발표는 86조 개가 넘는 매개변수 AI 모델을 위해 긴밀하게 통합된 CPU인 Grace였습니다."라고 말했습니다. “PCIe를 통해 연결된 클래식 xXNUMX CPU 및 GPU를 사용하는 문제를 해결하기는 어렵습니다. Grace는 IO 및 메모리 대역폭에 중점을 두고 GPU와 메인 메모리를 공유하므로 AMD 또는 Intel의 범용 데이터 센터 CPU와 혼동해서는 안 됩니다.”

Grace의 성능을 뒷받침하는 것은 4세대 Nvidia NVLink 상호 연결 기술입니다. 이 기술은 Grace와 Nvidia 그래픽 처리 장치(GPU) 간에 초당 900기가바이트 연결을 제공하여 오늘날의 주요 서버에 비해 30배 더 높은 총 대역폭을 지원합니다.

Grace는 또한 DDR5 메모리에 비해 10배의 대역폭과 4배 더 나은 에너지 효율성을 제공하는 혁신적인 LPDDRXNUMXx 메모리 하위 시스템을 활용할 것입니다. 또한 새로운 아키텍처는 단일 메모리 주소 공간으로 통합 캐시 일관성을 제공하고 시스템과 HBM GPU 메모리를 결합하여 프로그래밍을 단순화합니다.

Tirias Research의 분석가인 Kevin Krewell은 이메일을 통해 “Grace 플랫폼과 Arm CPU는 Nvidia에게 큰 새로운 단계입니다.”라고 말했습니다. “일관적인 NVlink를 사용하여 GPU에 연결된 하나의 맞춤형 CPU의 새로운 디자인은 이제 실행하는 데 며칠이 걸리는 초대형 AI 모델로 확장하기 위한 Nvidia의 새로운 디자인입니다. Grace의 핵심은 맞춤형 Arm CPU를 사용하면 GPU에 직접 연결된 고대역폭 메모리를 사용하여 가능한 것보다 훨씬 더 큰 대형 LPDDR5 DRAM 어레이로 확장할 수 있다는 것입니다.”

위: Los Alamos 국립 연구소는 Grace CPU를 사용합니다.

이미지 크레디트 : Nvidia

Grace는 스위스 조직을 위해 세계에서 가장 빠른 슈퍼컴퓨터를 구동할 것입니다. 알프스라고 불리는 이 기계는 20엑사플롭의 AI 처리 기능을 갖추고 있습니다. (이것은 AI 애플리케이션에 사용할 수 있는 컴퓨팅 양을 나타냅니다.) 이는 오늘날 최고의 AI 슈퍼컴퓨터인 7엑사플롭 Nvidia Seline 슈퍼컴퓨터로 사용할 수 있는 것보다 약 2.8배 더 많은 계산량입니다. HP Enterprise는 알프스 시스템을 구축할 예정입니다.

Alps는 기후 및 날씨부터 재료과학, 천체물리학, 전산유체역학, 생명과학, 분자역학, 양자화학, 입자물리학, 경제학, 사회과학 등의 영역에 이르는 다양한 분야의 문제를 연구할 예정입니다. 2023. Alps는 Hadron 충돌기 및 날씨 모델에 대한 양자 화학 및 물리 계산을 수행합니다.

위 : GTC 21의 Nvidia CEO Jensen Huang.

이미지 크레디트 : Nvidia

Kharya는 “이것은 아직 발표하지 않은 Grace와 미래의 Nvidia GPU를 갖춘 매우 균형 잡힌 아키텍처로, 광범위한 분야에서 획기적인 연구를 가능하게 합니다.”라고 말했습니다.

한편, 엔비디아는 자사의 그래픽 칩을 클라우드 컴퓨팅용 데이터센터용 아마존 웹 서비스(Amazon Web Services)의 Graviton2 ARM 기반 CPU와 함께 사용할 수 있게 만들 것이라고 밝혔습니다.

Grace를 통해 Nvidia는 그래픽 처리 장치, CPU 및 데이터 처리 장치(CPU)를 만드는 다년간의 패턴에 착수할 것이며 Arm과 x86 아키텍처 설계를 번갈아 사용할 것이라고 Huang은 말했습니다.

출처: https://venturebeat.com/2021/04/12/nvidia-unveils-grace-arm-based-cpu-for-giant-scale-ai-and-hpc-apps/