এমএল ওয়ার্কলোডগুলিতে পারফরম্যান্স ত্বরান্বিত করতে আরআইএসসি-ভি ভেক্টর এক্সটেনশানগুলি বাড়ানো

১৯ এপ্রিল সপ্তাহে^th, লিনলি গ্রুপটির স্প্রিং প্রসেসর সম্মেলন 2021 অনুষ্ঠিত হয়েছে। লিনলি গ্রুপটি দুর্দান্ত সম্মেলন করার জন্য খ্যাতি অর্জন করেছে। এবং এই বছরের বসন্ত সম্মেলন ব্যতিক্রম ছিল না। ইন্ডাস্ট্রিতে যে সর্বশেষ গবেষণা ও উন্নয়ন কাজ চলছে তা দর্শকদের আপডেট করার জন্য বিভিন্ন সংস্থার বেশ কয়েকটি তথ্যমূলক কথাবার্তা হয়েছিল। উপস্থাপনা আটটি পৃথক বিষয় বিষয়বস্তুতে শ্রেণিবদ্ধ করা হয়েছিল। বিষয়গুলি হ'ল এজ এজ, এম্বেডড এসসি ডিজাইন, স্কেলিং এআই প্রশিক্ষণ, এআই এসসি ডিজাইন, এআই এবং 5 জি এর নেটওয়ার্ক ইনফ্রাস্ট্রাকচার, এজ এআই সফটওয়্যার, সিগন্যাল প্রসেসিং এবং দক্ষ এআই অনুমান।

প্রযুক্তি হিসাবে কৃত্রিম বুদ্ধিমত্তা (এআই) সাম্প্রতিক বছরগুলিতে প্রচুর মনোযোগ এবং বিনিয়োগ অর্জন করেছে। সম্মেলন অবশ্যই প্রতিফলিত হয়েছে যে এআই সম্পর্কিত বিষয় বিভাগের সংখ্যায়। এআই এর বিস্তৃত বিভাগের মধ্যে, এজ এআই এমন একটি বিষয় ছিল যা উপস্থাপনাগুলির একটি অন্যায় অংশীদার ছিল এবং ন্যায়সঙ্গতভাবে তাই। এজ কম্পিউটিং আইওটি, 5 জি এবং অন্যান্য স্বল্প-ল্যাটেন্সি প্রয়োজনীয় অ্যাপ্লিকেশন দ্বারা চালিত দ্রুত বৃদ্ধি দেখছে।

এজ এআই বিভাগের মধ্যে একটি উপস্থাপনা শিরোনাম ছিল "এমএল ওয়ার্কলোডগুলিতে পারফরম্যান্স ত্বরান্বিত করতে আরআইএসসি-ভি ভেক্টর এক্সটেনশানগুলি বাড়ানো” " কথাটি সাইফাইভ, ইনক এর ইঞ্জিনিয়ারিং অ্যান্ড প্রোডাক্টের প্রেসিডেন্ট ক্রিস ল্যাটনার দিয়েছিলেন। ক্রিস সিআইফাইভের আরআইএসসি-ভি ভেক্টর এক্সটেনশানস ভিত্তিক সমাধান এআই চালিত অ্যাপ্লিকেশনগুলির জন্য দুর্দান্ত ফিট কেন, তার পক্ষে দৃ strong় মামলা করেছিলেন। নিম্নলিখিত আমার গ্রহণ করা হয়।

বাজার প্রয়োজনীয়তা:

এজ কম্পিউটারের বাজার যত দ্রুত বৃদ্ধি পাচ্ছে ততই এই অ্যাপ্লিকেশনগুলির কার্য সম্পাদন এবং পাওয়ার প্রয়োজনীয়তাও দিন দিন আরও চাহিদা বাড়ছে। এই অ্যাপ্লিকেশনগুলির অনেকগুলি এআই চালিত এবং মেশিন লার্নিং (এমএল) ওয়ার্কলোডের বিভাগে পড়ে। এবং এআই গ্রহণ সাধারণ উদ্দেশ্য কম্পিউটিংয়ের চেয়ে ডেটা ম্যানিপুলেশনের দিকে প্রসেসিংয়ের প্রয়োজনীয়তাকে আরও বেশি চাপ দিচ্ছে। গভীর শেখা এমএল মডেলগুলিকে অন্তর্নিহিত করে এবং ডেটার বৃহত অ্যারে প্রক্রিয়াজাত করে। এমএল মডেলগুলি দ্রুত বিকশিত হওয়ার সাথে সাথে একটি আদর্শ সমাধান হ'ল এটির জন্য অনুকূলিতকরণ: পারফরম্যান্স, শক্তি, উদীয়মান এমএল মডেলগুলিকে অন্তর্ভুক্তকরণের স্বাচ্ছন্দ্য এবং ফলস্বরূপ হার্ডওয়্যার এবং / বা সফ্টওয়্যার পরিবর্তনের সুযোগ।

আরআইএসসি-ভি ভেক্টর সুবিধা:

আমাদের আরআইএসসি-ভি আর্কিটেকচারটি যে উদ্যোগ দিয়েছে তার পেছনের মূল অনুপ্রেরণা হল পরীক্ষা-নিরীক্ষা। চিপ ডিজাইনগুলি বিকাশের জন্য পরীক্ষা করা যা মুরের আইনটির প্রত্যাশিত মন্দার মুখে আরও ভাল পারফরম্যান্স দেয়। RISC-V নির্দিষ্ট চিপগুলি তৈরি করতে সক্ষম হওয়ার ধারণার উপর ভিত্তি করে তৈরি করা হয়েছে যেখানে আপনি কোন নির্দেশিকা সেট এক্সটেনশনগুলি ব্যবহার করছেন তা বেছে নিতে পারেন। ভেক্টর এক্সটেনশনগুলি নির্দিষ্ট দৈর্ঘ্যের ভেক্টরগুলিকে প্রক্রিয়া করে এমন ফাংশনগুলি ব্যবহার করে যে কোনও দৈর্ঘ্যের ভেক্টরগুলির প্রক্রিয়াজাতকরণের অনুমতি দেয়। যখন ভ্যাক্টর প্রসেসিং বিদ্যমান সফ্টওয়্যারটিকে পুনরায় কম্পাইল না করে চালানোর জন্য সক্ষম করে যখন হার্ডওয়্যারকে আরও ALUs এবং অন্যান্য কার্যকরী ইউনিট আকারে আপগ্রেড করা হয়। প্রতিষ্ঠিত হার্ডওয়্যার বেস এবং সমর্থনকারী বাস্তুসংস্থার যেমন সংকলক প্রযুক্তির ক্ষেত্রে উল্লেখযোগ্য অগ্রগতি ঘটেছে।

আরআইএসসি-ভি কাস্টম এক্সটেনশনের মাধ্যমে কোনও নির্দিষ্ট ডোমেন বা অ্যাপ্লিকেশনটির জন্য অনুকূলিত করা যেতে পারে। একটি ওপেন স্ট্যান্ডার্ড ইন্সট্রাকশন সেট আর্কিটেকচার হিসাবে, আরআইএসসি-ভি ব্যবহারকারীরা তাদের চিপ ডিজাইনের প্রয়োজনের জন্য সরবরাহকারী বাছাই করতে অনেক নমনীয়তা উপভোগ করেন।

সাইফাইভের অফার:

সিআইফাইভ বিভিন্ন নিউরাল নেটওয়ার্ক মডেলের এক্সিকিউশন ত্বরান্বিত করার জন্য নতুন ভেক্টর এক্সটেনশন যুক্ত করে আরআইএসসি-ভি ভেক্টর সুবিধা বাড়িয়েছে। সাইফাইভের অ্যাড-অন এক্সটেনশানগুলি ব্যবহার করে আরআইএসসি-ভি এর কেবলমাত্র বেস ভেক্টর এক্সটেনশনগুলি ব্যবহার করার তুলনায় যে ধরণের স্পিডআপ ব্যবহার করা যায় তার উদাহরণ দেখতে চিত্র 1 দেখুন। এর গোয়েন্দাগুলি এক্স 280 সমাধানটি একাধিক-কোর সক্ষম আরআইএসসি-ভি ভেক্টর সমাধান (হার্ডওয়্যার এবং সফ্টওয়্যার) এর গ্রাহকদের পক্ষে অনুকূলিত এজ এআই অ্যাপ্লিকেশনগুলি প্রয়োগ করা সহজ করে তোলে। সমাধানটি ডেটা সেন্টার অ্যাপ্লিকেশনগুলি প্রয়োগ করতেও ব্যবহার করা যেতে পারে।

চিত্র 1:

সাইফাইভ সুবিধা:

• সিআইফাইভের ইন্টেলিজেন্স এক্স 280 সমাধান মেশিন লার্নিংয়ের জন্য টেনসরফ্লো এবং টেনসরফ্লো লাইট ওপেন-সোর্স প্ল্যাটফর্মগুলিকে সম্পূর্ণ সমর্থন করে (চিত্র 2 দেখুন)
• আরআইএসসি-ভি ভেক্টর আর্কিটেকচারে অন্যান্য আর্কিটেকচারের উপর ভিত্তি করে গ্রাহকের বিদ্যমান কোডটি মাইগ্রেট করার সহজ উপায় সিফাইভ সরবরাহ করে। উদাহরণস্বরূপ, সাইফাইভ এআরএম নিয়ন কোডটিকে আরআইএসসি-ভি ভি সমাবেশের কোডে অনুবাদ করতে পারে
• সিআইফাইভ তার গ্রাহকদের তাদের আরআইএসসি-ভি বাস্তবায়নে কাস্টম এক্সটেনশনগুলি যুক্ত করতে অন্বেষণ করতে অনুমতি দেয়
• সাইফাইভ এর ওপেনফাইভ বিজনেস ইউনিটের মাধ্যমে ডোমেন-নির্দিষ্ট সিলিকন প্রয়োজনগুলি মোকাবেলায় কাস্টম চিপ বাস্তবায়ন পরিষেবাগুলি প্রসারিত করে

চিত্র 2:

সারাংশ:

সংক্ষেপে, সিফাইভ গ্রাহকরা সহজেই এবং দ্রুত তাদের অ্যাপ্লিকেশনগুলি প্রয়োগ করতে পারবেন, অ্যাপ্লিকেশনগুলি এজ এআই কাজের চাপ বা traditionalতিহ্যবাহী ডেটা সেন্টার ধরণের ওয়ার্কলোডের সাথে জড়িত কিনা। আপনার এমএল কাজের চাপ বাড়ানোর জন্য সিফাইভের সমাধানগুলি থেকে উপকৃত হতে আগ্রহী হলে, আমি আপনাকে নিবন্ধিত করে শোনার পরামর্শ দিচ্ছি ক্রিসের পুরো কথা এবং তারপরে সিফাইভের সাথে আপনার পণ্যগুলির বিকাশের জন্য তাদের বিভিন্ন অফার লাভের উপায় নিয়ে আলোচনা করুন।

এর মাধ্যমে এই পোস্টটি ভাগ করুন: উত্স: https://semiwiki.com/ip/sifive/299157-enhancing-risc-v-vector- এক্সটেনশন- to-accelerate-performance-on-ml-workloads/