Nvidia, dev ölçekli AI ve HPC uygulamaları için Grace ARM tabanlı CPU'yu tanıttı

Nvidia Bugün Grace işlemcisini tanıttı. Dev ölçekli yapay zeka ve yüksek performanslı bilgi işlem uygulamaları için ARM tabanlı bir merkezi işlem birimidir (CPU). Nvidia CEO'su Jensen Huang, Nvidia'nın açılış konuşmasında, bunun Nvidia'nın ilk veri merkezi CPU'su olduğunu ve dev ölçekte çalışan uygulamalar için özel olarak tasarlandığını söyledi. GTC 2021 olay.

Grace, enerji tasarruflu ARM çekirdeklerini kullanarak dev yapay zeka modellerini eğiten sistemler için 10 kat daha fazla performans artışı sağlıyor. Ve Nvidia, İsviçre Süper Bilgi İşlem Merkezi ve ABD Enerji Bakanlığı'nın Los Alamos Ulusal Laboratuvarı'nın, adını Grace'den alan Grace'i ilk kullanacaklar olacağını söyledi. Grace Hopper1950'lerde bilgisayar programcılığına öncülük eden kişi. CPU'nun 2023'ün başlarında piyasaya sunulması bekleniyor.

“Grace çığır açıcı bir CPU. Nvidia'nın ürün yönetimi ve pazarlamadan sorumlu kıdemli direktörü Paresh Kharya, bir basın toplantısında şunları söyledi: "Yapay zeka ve HPC için devasa ölçekte hızlandırılmış bilgi işlem uygulamaları için özel olarak tasarlandı."

Huang, "Bu, dünyanın terabayt ölçekli bilgi işlem için tasarlanmış ilk CPU'su" dedi.

CPU, 10,000 yılı aşkın mühendislik çalışmasının sonucudur. Nvidia, çipin, analiz yapan doğal dil işleme, öneri sistemleri ve yapay zeka süper hesaplama dahil olmak üzere dünyanın en gelişmiş uygulamalarının bilgi işlem gereksinimlerini karşılayacağını söyledi.
hem ultra hızlı bilgi işlem performansı hem de büyük bellek gerektiren devasa veri kümeleri.

Grace, enerji tasarruflu ARM CPU çekirdeklerini yenilikçi, düşük güçlü bellek alt sistemiyle birleştirerek mükemmel verimlilikle yüksek performans sunar. Çip, Neoverse adı verilen gelecekteki bir ARM çekirdeğini kullanacak.

Huang konuşmasında şunları söyledi: "Son teknoloji yapay zeka ve veri bilimi, günümüzün bilgisayar mimarisini sınırlarının ötesine taşıyor; akla hayale gelmeyecek miktarlarda veri işliyor." “Lisanslı ARM IP'yi kullanan Nvidia, Grace'i özellikle dev ölçekli yapay zeka ve HPC için bir CPU olarak tasarladı. Grace, GPU ve DPU ile birleştiğinde bize bilgi işlem için üçüncü temel teknolojiyi ve yapay zekayı ilerletmek için veri merkezini yeniden tasarlama yeteneğini veriyor. Nvidia artık üç çipli bir şirket.”

Grace, 1 trilyondan fazla parametreye sahip yeni nesil NLP modellerinin eğitimi gibi iş yüklerini hedefleyen son derece uzmanlaşmış bir işlemcidir. Grace tabanlı bir sistem, Nvidia GPU'larla sıkı bir şekilde birleştirildiğinde, x10 CPU'larla çalışan günümüzün Nvidia DGX tabanlı sistemlerinden 86 kat daha hızlı performans sunacak. Bir basın toplantısında birisi Nvidia'nın Intel ve AMD'nin x86 yongalarıyla rekabet edip etmeyeceğini sordu.

Kharya, "x86 ile rekabet etmiyoruz... x86 CPU'larla çok iyi çalışmaya devam ediyoruz" dedi.

Grace, yapay zeka ve HPC uygulamaları için tasarlandı ancak Nvidia, Grace'in bugün nerede kullanılacağına ilişkin ek bilgi açıklamıyor. Nvidia ayrıca Grace çipindeki transistör sayısını açıklamayı da reddetti.

Nvidia, veri hacmi ve yapay zeka modellerinin boyutu katlanarak arttıkça Grace'i tanıtıyor. Günümüzün en büyük yapay zeka modelleri milyarlarca parametre içeriyor ve her iki buçuk ayda bir ikiye katlanıyor. Bunları eğitmek, sistem darboğazlarını ortadan kaldırmak için GPU'ya sıkı bir şekilde bağlanabilen yeni bir CPU gerektirir.

Moor Insights & Strategies analistlerinden Patrick Moorhead, "GTC 21'in en büyük duyurusu, bir trilyondan fazla parametreli yapay zeka modeli için sıkı bir şekilde entegre edilmiş bir CPU olan Grace'ti" dedi. “PCIe üzerinden bağlanan klasik x86 CPU'lara ve GPU'lara sahip olanlara hitap etmek zor. Grace, GÇ ve bellek bant genişliğine odaklanır, ana belleği GPU ile paylaşır ve AMD veya Intel'in genel amaçlı veri merkezi CPU'larıyla karıştırılmamalıdır."

Grace'in performansının temelinde, günümüzün önde gelen sunucularına kıyasla 4 kat daha yüksek toplam bant genişliği sağlamak üzere Grace ve Nvidia grafik işlem birimleri (GPU'lar) arasında saniyede 900 gigabayt bağlantı sağlayan 30. nesil Nvidia NVLink ara bağlantı teknolojisi yer alıyor.

Grace ayrıca, DDR5 belleğe kıyasla iki kat daha fazla bant genişliği ve 10 kat daha iyi enerji verimliliği sağlayacak yenilikçi bir LPDDR4x bellek alt sistemini de kullanacak. Ayrıca yeni mimari, programlanabilirliği kolaylaştırmak için sistem ile HBM GPU belleğini birleştirerek tek bellek adres alanıyla birleşik önbellek tutarlılığı sağlar.

Tirias Research analistlerinden Kevin Krewell bir e-postada "Grace platformu ve Arm CPU'su Nvidia için büyük bir yeni adım" dedi. “Tutarlı NVlinklerle GPU'ya bağlanan özel bir CPU'nun yeni tasarımı, Nvidia'nın artık çalışması günler süren ultra büyük yapay zeka modellerine ölçeklendirmeye yönelik yeni tasarımıdır. Grace'in anahtarı, özel Arm CPU'yu kullanarak, GPU'lara doğrudan bağlanan yüksek bant genişlikli bellekle mümkün olandan çok daha büyük büyük LPDDR5 DRAM dizilerine ölçeklendirmenin mümkün olmasıdır."

Grace, İsviçre organizasyonu için dünyanın en hızlı süper bilgisayarına güç verecek. Alps olarak adlandırılan makine, 20 exaflop yapay zeka işleme özelliğine sahip olacak. (Bu, AI uygulamaları için mevcut bilgi işlem miktarını ifade eder.) Bu, günümüzün önde gelen AI süper bilgisayarı olan 7 exaflop Nvidia Seline süper bilgisayarında mevcut olandan yaklaşık 2.8 kat daha fazla hesaplama anlamına gelir. HP Enterprise, Alps sistemini oluşturacak.

Alps, iklim ve hava koşullarından malzeme bilimleri, astrofizik, hesaplamalı akışkanlar dinamiği, yaşam bilimleri, moleküler dinamik, kuantum kimyası ve parçacık fiziğinin yanı sıra ekonomi ve sosyal bilimler gibi alanlardaki problemler üzerinde çalışacak ve 2023 yılında çevrimiçi hale gelecek. XNUMX. Alpler, Hadron çarpıştırıcısı için kuantum kimyası ve fizik hesaplamalarının yanı sıra hava durumu modellerini de yapacak.

Kharya, "Bu, Grace ve henüz duyurmadığımız gelecekteki bir Nvidia GPU ile çok dengeli bir mimaridir ve çok çeşitli alanlarda çığır açan araştırmalara olanak sağlar" dedi.

Bu arada Nvidia, bulut bilişime yönelik veri merkezleri için grafik yongalarını Amazon Web Services'in Graviton2 ARM tabanlı CPU'su ile kullanıma sunacağını da söyledi.

Huang, Grace ile Nvidia'nın grafik işlem birimleri, CPU'lar ve veri işleme birimleri (CPU'lar) oluşturma konusunda uzun yıllara dayanan bir modeli başlatacağını ve Arm ile x86 mimari tasarımları arasında geçiş yapacağını söyledi.

Kaynak: https://venturebeat.com/2021/04/12/nvidia-unveils-grace-arm- Based-cpu-for-giant-scale-ai-and-hpc-apps/