আডাব্লুএস এবং এনভিআইডিএ আর্ম-ভিত্তিক গ্রাভিটন 2 দৃষ্টান্ত জিপিইউতে মেঘে আনতে

AWS আমাদের গ্রাহকদের পক্ষে উদ্ভাবন চালিয়ে যাচ্ছে। আমরা একটি আর্ম প্রসেসর-ভিত্তিক, NVIDIA GPU ত্বরিত আনতে NVIDIA-এর সাথে কাজ করছি অ্যামাজন ইলাস্টিক কম্পিউট ক্লাউড (Amazon EC2) 2021 সালের দ্বিতীয়ার্ধে ক্লাউডের উদাহরণ। এই উদাহরণে আর্ম-ভিত্তিক বৈশিষ্ট্য থাকবে AWS Graviton2 প্রসেসর, যা AWS দ্বারা গ্রাউন্ড আপ থেকে তৈরি করা হয়েছিল এবং গ্রাহকরা কীভাবে ক্লাউডে তাদের কাজের চাপ চালায় তার জন্য অপ্টিমাইজ করা হয়েছে, অনেকগুলি অপ্রয়োজনীয় উপাদানগুলিকে দূর করে যা অন্যথায় একটি সাধারণ-উদ্দেশ্য প্রসেসরে যেতে পারে।

Graviton2 প্রসেসরের সাথে AWS উদ্ভাবন

AWS আমাদের গ্রাহকদের জন্য ক্লাউড কম্পিউটিং অগ্রগামী করা অব্যাহত রেখেছে। 2018 সালে, AWS হল প্রথম প্রধান ক্লাউড প্রদানকারী যেটি AWS Graviton প্রসেসর দ্বারা চালিত EC2 A1 সহ ক্লাউডে আর্ম-ভিত্তিক দৃষ্টান্ত প্রদান করে। এই উদাহরণগুলি আর্ম কোরের চারপাশে নির্মিত এবং AWS কাস্টম-বিল্ট সিলিকনের ব্যাপক ব্যবহার করে। এগুলি স্কেল-আউট ওয়ার্কলোডগুলির জন্য একটি দুর্দান্ত ফিট যেখানে আপনি ছোট উদাহরণগুলির একটি গ্রুপ জুড়ে লোড ভাগ করতে পারেন।

2020 সালে, AWS AWS-ডিজাইন করা, আর্ম-ভিত্তিক Graviton2 প্রসেসর প্রকাশ করেছে, যা প্রথম প্রজন্মের AWS Graviton প্রসেসরের তুলনায় কর্মক্ষমতা এবং ক্ষমতায় একটি বড় লাফ দিয়েছে। এই প্রসেসরগুলি EC2 সাধারণ উদ্দেশ্য (M6g, M6gd, T4g), কম্পিউট-অপ্টিমাইজড (C6g, C6gd, C6gn), এবং মেমরি-অপ্টিমাইজড (R6g, R6gd, X2gd) দৃষ্টান্তগুলিকে শক্তি দেয় এবং তুলনামূলক বর্তমানের তুলনায় 40% পর্যন্ত ভাল মূল্য কার্যক্ষমতা প্রদান করে। বিভিন্ন ধরণের কাজের চাপের জন্য প্রজন্ম x86-ভিত্তিক উদাহরণ। AWS Graviton2 প্রসেসর প্রথম প্রজন্মের AWS Graviton প্রসেসরের তুলনায় সাতগুণ বেশি কর্মক্ষমতা, চারগুণ বেশি কম্পিউট কোর, পাঁচগুণ দ্রুত মেমরি এবং ক্যাশগুলি দ্বিগুণ করে।

Domo, Formula One, Honeycomb.io, Intuit, LexisNexis Risk Solutions, Nielsen, NextRoll, Redbox, SmugMug, Snap, এবং Twitter সহ গ্রাহকরা উৎপাদনে AWS Graviton2-ভিত্তিক দৃষ্টান্তগুলি চালানোর থেকে উল্লেখযোগ্য কর্মক্ষমতা লাভ এবং খরচ কমেছে। AWS Graviton2 প্রসেসর, 64-বিট আর্ম আর্কিটেকচারের উপর ভিত্তি করে, জনপ্রিয় লিনাক্স অপারেটিং সিস্টেম দ্বারা সমর্থিত, যার মধ্যে রয়েছে Amazon Linux 2, Red Hat, SUSE, এবং Ubuntu। AWS এবং ISV-এর অনেক জনপ্রিয় অ্যাপ্লিকেশন এবং পরিষেবাগুলি AWS Graviton2-ভিত্তিক উদাহরণগুলিকে সমর্থন করে। আর্ম ডেভেলপাররা ক্লাউডে স্থানীয়ভাবে অ্যাপ্লিকেশন তৈরি করতে এই উদাহরণগুলি ব্যবহার করতে পারে, যার ফলে ইমুলেশন এবং ক্রস-কম্পাইলেশনের প্রয়োজনীয়তা দূর করে, যা ত্রুটি-প্রবণ এবং সময় সাপেক্ষ। NVIDIA GPU যোগ করা বিভিন্ন ক্লাউড ওয়ার্কলোডের জন্য Graviton2-ভিত্তিক দৃষ্টান্তকে ত্বরান্বিত করে, যার মধ্যে গেমিং এবং অন্যান্য আর্ম-ভিত্তিক কাজের চাপ যেমন মেশিন লার্নিং (ML) অনুমান সহ।

অ্যান্ড্রয়েড গেমগুলিকে সহজেই ক্লাউডে সরান৷

অনুসারে অ্যাপ অ্যানি থেকে গবেষণা, মোবাইল গেমিং এখন গেমিংয়ের সবচেয়ে জনপ্রিয় রূপ এবং কনসোল, পিসি এবং ম্যাককে ছাড়িয়ে গেছে। অতিরিক্ত অ্যাপ অ্যানি থেকে গবেষণা দেখিয়েছে যে মোবাইল ডিভাইসে ব্যয় করা সময়ের 10% পর্যন্ত গেমগুলির সাথে, এবং গেম ডেভেলপারদের আজ এবং ভবিষ্যতে ব্যবহৃত মোবাইল ডিভাইসগুলির বিভিন্ন সেটের জন্য তাদের গেমগুলিকে সমর্থন এবং অপ্টিমাইজ করতে হবে৷ ক্লাউড ব্যবহার করে, গেম ডেভেলপাররা মোবাইল ডিভাইসের স্পেকট্রাম জুড়ে একটি অভিন্ন অভিজ্ঞতা প্রদান করতে পারে এবং মোবাইল ডিভাইসে কম গণনা এবং পাওয়ার চাহিদার কারণে ব্যাটারির আয়ু বাড়াতে পারে। NVIDIA GPU ত্বরণ সহ AWS Graviton2 দৃষ্টান্ত গেম ডেভেলপারদের Android গেমগুলিকে স্থানীয়ভাবে চালাতে, রেন্ডার করা গ্রাফিক্সকে এনকোড করতে এবং গেমটিকে একটি মোবাইল ডিভাইসে নেটওয়ার্কের মাধ্যমে স্ট্রিম করতে সক্ষম করে, সব কিছুই x86 CPU-ভিত্তিক পরিকাঠামোতে ইমুলেশন সফ্টওয়্যার চালানোর প্রয়োজন ছাড়াই৷

খরচ-কার্যকর, GPU-ভিত্তিক মেশিন লার্নিং ইনফারেন্স

মোবাইল গেমিং ছাড়াও, উৎপাদনে মেশিন লার্নিং মডেল চালানো গ্রাহকরা ক্রমাগত খরচ কমানোর উপায় খুঁজছেন কারণ ML অনুমান এই অ্যাপ্লিকেশনগুলিকে স্কেলে চালানোর জন্য সামগ্রিক পরিকাঠামো ব্যয়ের 90% পর্যন্ত প্রতিনিধিত্ব করতে পারে। এই নতুন অফারটির সাথে, গ্রাহকরা GPU এক্সিলারেটেড ডিপ লার্নিং মডেলগুলিকে GPU ত্বরণ সহ x2-ভিত্তিক দৃষ্টান্তগুলির তুলনায় উল্লেখযোগ্যভাবে কম খরচে স্থাপন করতে Graviton86 এর মূল্য/কর্মক্ষমতা সুবিধার সুবিধা নিতে সক্ষম হবে।

AWS এবং NVIDIA: সহযোগিতার একটি দীর্ঘ ইতিহাস

সর্বশেষ সহ গ্রাহকদের কাছে ক্রমাগত শক্তিশালী, সাশ্রয়ী এবং নমনীয় GPU-ভিত্তিক সমাধান সরবরাহ করতে AWS এবং NVIDIA 10 বছরেরও বেশি সময় ধরে সহযোগিতা করেছে EC2 G4 দৃষ্টান্ত NVIDIA T4 GPUs এর সাথে 2019 সালে চালু হয়েছে এবং EC2 P4d উদাহরণ 100 সালে NVIDIA A2020 GPU গুলি চালু করা হয়েছে৷ EC2 P4d দৃষ্টান্তগুলিকে হাইপারস্কেল ক্লাস্টারগুলিতে EC2 UltraClusters বলা হয় যেগুলি ক্লাউডে সর্বোচ্চ পারফরম্যান্স কম্পিউট, নেটওয়ার্কিং এবং স্টোরেজ নিয়ে গঠিত৷ EC2 UltraClusters 400 Gbps ইন্সট্যান্স নেটওয়ার্কিং, ইলাস্টিক ফ্যাব্রিক অ্যাডাপ্টার (EFA), এবং NVIDIA GPUDirect RDMA প্রযুক্তি সমর্থন করে যাতে স্কেল-আউট এবং বিতরণ কৌশলগুলি ব্যবহার করে এমএল মডেলগুলিকে দ্রুত প্রশিক্ষণ দিতে সহায়তা করে।

GPU ত্বরিত দৃষ্টান্তগুলি অফার করার জন্য ক্লাউডে প্রথম এবং NVIDIA V100 GPU গুলি অফার করার জন্য ক্লাউডে প্রথম হওয়ার পাশাপাশি, আমরা এখন নতুন EC2 দৃষ্টান্তগুলি অফার করতে NVIDIA এর সাথে একসাথে কাজ করছি যা একটি GPU এক্সিলারেটরের সাথে একটি আর্ম-ভিত্তিক প্রসেসরকে একত্রিত করে। 2021 সালের দ্বিতীয়ার্ধ। গ্রাহকদের কাছে উদ্ভাবনী প্রযুক্তি নিয়ে আসার জন্য কীভাবে AWS এবং NVIDIA একসাথে কাজ করে সে সম্পর্কে আরও জানতে ভিজিট করুন NVIDIA GTC 21-এ AWS.

লেখক সম্পর্কে

জিওফ মুরাসে AWS EC2 ত্বরান্বিত কম্পিউটিং দৃষ্টান্তের জন্য একজন সিনিয়র পণ্য বিপণন ব্যবস্থাপক, গ্রাফিক্স প্রসেসিং ইউনিট (GPUs) বা ফিল্ড প্রোগ্রামেবল গেট অ্যারে (FPGAs) এর মতো হার্ডওয়্যার-ভিত্তিক কম্পিউট অ্যাক্সিলারেটরগুলিতে অ্যাক্সেস প্রদান করে গ্রাহকদের তাদের গণনার চাহিদা মেটাতে সহায়তা করে। তার অবসর সময়ে, তিনি তার পরিবারের সাথে বাস্কেটবল খেলা এবং বাইক চালানো উপভোগ করেন।

সূত্র: https://aws.amazon.com/blogs/machine-learning/aws-and-nvidia-to-bring-arm-based-instances-with-gpus-to-the-cloud/