এই শক্তিশালী ব্রেন চিপটি এতটাই দক্ষ যে এটি আপনার ফোনে উন্নত এআই আনতে পারে

এআই এবং প্রচলিত কম্পিউটার নরকে তৈরি একটি মিল।

প্রধান কারণ হল কিভাবে হার্ডওয়্যার চিপ বর্তমানে সেট আপ করা হয়। ঐতিহ্যগত ভন নিউম্যান আর্কিটেকচারের উপর ভিত্তি করে, চিপটি তার প্রধান প্রসেসর থেকে মেমরি স্টোরেজকে বিচ্ছিন্ন করে। প্রতিটি গণনা হল একটি দুঃস্বপ্নের সোমবার সকালের যাতায়াত, যেখানে চিপ ক্রমাগতভাবে প্রতিটি বগি থেকে ডাটা ঢালাচ্ছে, একটি কুখ্যাত “স্মৃতি প্রাচীর. "

আপনি যদি কখনও ট্র্যাফিক আটকে থাকেন, আপনি হতাশা জানেন: এটি সময় নেয় এবং শক্তি অপচয় করে। AI অ্যালগরিদমগুলি ক্রমবর্ধমান জটিল হয়ে উঠলে, সমস্যা ক্রমশ খারাপ হয়ে যায়।

তাহলে কেন মস্তিষ্কের উপর ভিত্তি করে একটি চিপ ডিজাইন করবেন না, গভীর নিউরাল জালের জন্য একটি সম্ভাব্য নিখুঁত মিল?

কম্পিউট-ইন-মেমরি, বা CIM, চিপস লিখুন। তাদের নামের প্রতি বিশ্বস্ত, এই চিপগুলি একই সাইটে মেমরি গণনা করে এবং সঞ্চয় করে। যাতায়াতের কথা ভুলে যান; চিপগুলি বাড়ি থেকে কাজ করার জন্য অত্যন্ত দক্ষ বিকল্প, যা ডেটা ট্র্যাফিকের বাধা সমস্যা দূর করে এবং উচ্চ দক্ষতা এবং কম শক্তি খরচের প্রতিশ্রুতি দেয়।

বা তাই তত্ত্ব যায়. এআই অ্যালগরিদম চালিত বেশিরভাগ সিআইএম চিপগুলি সম্পূর্ণরূপে হার্ডওয়্যারে কাজ চালানোর পরিবর্তে চিপের সিমুলেশন ব্যবহার করে তাদের ক্ষমতা প্রদর্শন করে শুধুমাত্র চিপ ডিজাইনের উপর দৃষ্টি নিবদ্ধ করে। চিপগুলি একাধিক ভিন্ন এআই কাজগুলির সাথে সামঞ্জস্য করতেও লড়াই করে - চিত্র সনাক্তকরণ, ভয়েস উপলব্ধি - স্মার্টফোন বা অন্যান্য দৈনন্দিন ডিভাইসে তাদের সংহতকরণ সীমিত করে৷

এই মাস, একটি গবেষণা in প্রকৃতি গ্রাউন্ড আপ থেকে আপগ্রেড CIM. শুধুমাত্র চিপের ডিজাইনের উপর ফোকাস করার পরিবর্তে, স্ট্যানফোর্ডের নিউরোমর্ফিক হার্ডওয়্যার বিশেষজ্ঞ ড. এইচএস ফিলিপ ওং এবং UC সান দিয়েগোর ড. গার্ট কউয়েনবার্গের নেতৃত্বে আন্তর্জাতিক দল—প্রযুক্তি থেকে আর্কিটেকচার পর্যন্ত অ্যালগরিদমগুলি যা হার্ডওয়্যারকে ক্যালিব্রেট করে, সম্পূর্ণ সেটআপটিকে অপ্টিমাইজ করেছে৷ .

ফলস্বরূপ NeuRRAM চিপ হল একটি শক্তিশালী নিউরোমর্ফিক কম্পিউটিং বেহেমথ যার 48টি সমান্তরাল কোর এবং 3 মিলিয়ন মেমরি সেল রয়েছে। অত্যন্ত বহুমুখী, চিপটি 84 শতাংশের বেশি নির্ভুলতার সাথে একাধিক AI স্ট্যান্ডার্ড কাজ- যেমন হাতে লেখা নম্বর পড়া, গাড়ি এবং অন্যান্য বস্তু শনাক্ত করা, এবং ভয়েস রেকর্ডিং ডিকোডিং-এর মোকাবিলা করেছে।

যদিও সাফল্যের হার মাঝারি বলে মনে হতে পারে, এটি বিদ্যমান ডিজিটাল চিপগুলির প্রতিদ্বন্দ্বী কিন্তু নাটকীয়ভাবে শক্তি সঞ্চয় করে। লেখকদের কাছে, এটি গণনার জন্য ক্লাউডে ডেটা শাটল করার প্রয়োজন না করে সরাসরি আমাদের ডিভাইসে AI আনার এক ধাপ কাছাকাছি।

"ক্লাউড থেকে এবং ক্লাউড থেকে তথ্য পাঠানোর পরিবর্তে এই গণনাগুলি চিপে করা হলে ভবিষ্যতে আরও দ্রুত, আরও নিরাপদ, সস্তা এবং আরও মাপযোগ্য AI সক্ষম হতে পারে এবং আরও বেশি লোককে AI পাওয়ারে অ্যাক্সেস দিতে পারে," বলেছেন ওং।

নিউরাল ইন্সপিরেশন

এআই-নির্দিষ্ট চিপ একটি এখন একটি বিস্ময়কর ডাইম এক ডজন. Google-এর টেনসর প্রসেসিং ইউনিট (TPU) এবং Tesla-এর Dojo সুপারকম্পিউটার আর্কিটেকচার থেকে Baidu এবং Amazon পর্যন্ত, টেক জায়ান্টরা ক্রমবর্ধমান পরিশীলিত গভীর শিক্ষার অ্যালগরিদমকে সমর্থন করে এমন প্রসেসর তৈরি করতে AI চিপ গোল্ড রাশে লক্ষ লক্ষ বিনিয়োগ করছে৷ কেউ কেউ এমনকি চিপ আর্কিটেকচার ডিজাইন করতে মেশিন লার্নিং এ ট্যাপ করুন AI সফ্টওয়্যারের জন্য উপযোগী, রেস পূর্ণ বৃত্ত আনা.

একটি বিশেষভাবে কৌতূহলী ধারণা সরাসরি মস্তিষ্ক থেকে আসে। যখন ডেটা আমাদের নিউরনের মধ্য দিয়ে যায়, তারা সিন্যাপসেস নামক শারীরিক "ডক" এর মাধ্যমে নেটওয়ার্কে "ওয়্যার আপ" করে। ছোট মাশরুমের মতো নিউরাল শাখার উপরে বসে থাকা এই কাঠামোগুলি মাল্টিটাস্কার: তারা উভয়ই তাদের প্রোটিন গঠনের পরিবর্তনের মাধ্যমে ডেটা গণনা করে এবং সংরক্ষণ করে।

অন্য কথায়, নিউরন, ক্লাসিক কম্পিউটারের বিপরীতে, মেমরি থেকে CPU-তে ডেটা শাটল করার দরকার নেই। এটি মস্তিষ্ককে ডিজিটাল ডিভাইসগুলির উপর তার সুবিধা দেয়: এটি অত্যন্ত শক্তি দক্ষ এবং একই সাথে একাধিক গণনা সম্পাদন করে, সবগুলি মাথার খুলির ভিতরে স্টাফ করা তিন-পাউন্ড জেলিতে প্যাক করা হয়।

কেন মস্তিষ্কের দিকগুলিকে পুনরায় তৈরি করবেন না?

প্রবেশ করান নিউরোমর্ফিক কম্পিউটারিং. একটি হ্যাক ছিল RRAMs, বা প্রতিরোধী র্যান্ডম-অ্যাক্সেস মেমরি ডিভাইস ব্যবহার করা (এছাড়াও 'মেমরিস্টর' নামে পরিচিত)। আরআরএএম তাদের হার্ডওয়্যারের প্রতিরোধ ক্ষমতা পরিবর্তন করে পাওয়ার থেকে কেটে গেলেও মেমরি সঞ্চয় করে। সিন্যাপ্সের মতো, এই উপাদানগুলিকে একটি ক্ষুদ্র এলাকায় ঘন অ্যারেতে প্যাক করা যেতে পারে, যা বাল্ক ছাড়াই অত্যন্ত জটিল গণনা করতে সক্ষম সার্কিট তৈরি করে। CMOS এর সাথে মিলিত হলে, আমাদের বর্তমান মাইক্রোপ্রসেসর এবং চিপগুলিতে সার্কিট তৈরির জন্য একটি বানোয়াট প্রক্রিয়া, ডুও আরও শক্তিশালী হয়ে ওঠে গভীর শিক্ষার অ্যালগরিদম চালানোর জন্য।

কিন্তু এটি একটি খরচে আসে। "RRAM-CIM আর্কিটেকচারের মধ্যে উচ্চ-সমান্তরাল অ্যানালগ গণনা উচ্চতর দক্ষতা নিয়ে আসে, কিন্তু ডিজিটাল সার্কিটের মতো একই স্তরের কার্যকরী নমনীয়তা এবং গণনাগত নির্ভুলতা উপলব্ধি করা চ্যালেঞ্জিং করে তোলে," লেখক বলেছেন।

অপ্টিমাইজেশান জিনি

নতুন অধ্যয়নটি একটি RRAM-CIM চিপের প্রতিটি অংশে বিভক্ত হয়েছে, এটি ব্যবহারিক ব্যবহারের জন্য পুনরায় ডিজাইন করা হয়েছে।

এটি প্রযুক্তি দিয়ে শুরু হয়। NeuRRAM 48টি কোর নিয়ে গর্ব করে যা সমান্তরালভাবে গণনা করে, RRAM ডিভাইসগুলি শারীরিকভাবে CMOS সার্কিটের সাথে জড়িত। একটি নিউরনের মতো, প্রতিটি কোর পৃথকভাবে বন্ধ করা যেতে পারে যখন ব্যবহার না হয়, শক্তি সংরক্ষণ করে যখন এর মেমরি RRAM এ সঞ্চিত থাকে।

এই আরআরএএম কোষগুলি - তাদের তিন মিলিয়ন - সংযুক্ত করা হয়েছে যাতে ডেটা উভয় দিকে স্থানান্তর করতে পারে। এটি একটি গুরুত্বপূর্ণ নকশা, যা চিপটিকে নমনীয়ভাবে একাধিক ধরণের এআই অ্যালগরিদমের সাথে খাপ খাইয়ে নিতে দেয়, লেখকরা ব্যাখ্যা করেছেন। উদাহরণস্বরূপ, এক ধরণের গভীর নিউরাল নেট, সিএনএন (কনভোল্যুশনাল নিউরাল নেটওয়ার্ক), কম্পিউটারের দৃষ্টিতে বিশেষভাবে দুর্দান্ত, তবে একক দিকে প্রবাহিত হওয়ার জন্য ডেটার প্রয়োজন। বিপরীতে, এলএসটিএম, এক ধরনের গভীর নিউরাল নেট যা প্রায়ই অডিও স্বীকৃতির জন্য ব্যবহৃত হয়, সময়ের সাথে সংকেত মেলানোর জন্য বারবার ডেটা প্রক্রিয়া করে। সিন্যাপসের মতো, চিপটি এনকোড করে যে একটি আরআরএএম "নিউরন" অন্যটির সাথে কতটা জোরালোভাবে সংযোগ করে।

এই স্থাপত্যটি ট্র্যাফিক জ্যাম কমাতে ডেটা প্রবাহকে সূক্ষ্ম সুর করা সম্ভব করেছে। একক-লেনের ট্র্যাফিককে মাল্টি-লেনে প্রসারিত করার মতো, চিপটি বেশিরভাগ গণনাগতভাবে নিবিড় সমস্যা থেকে একটি নেটওয়ার্কের বর্তমান "মেমরি" নকল করতে পারে, যাতে একাধিক কোর একই সাথে সমস্যাটিকে বিশ্লেষণ করে।

পূর্ববর্তী সিআইএম চিপগুলিতে একটি চূড়ান্ত টাচআপ ছিল মস্তিষ্কের মতো গণনা - প্রায়শই অ্যানালগ এবং ডিজিটাল প্রক্রিয়াকরণের মধ্যে একটি শক্তিশালী সেতু। এখানে, চিপটি একটি নিউরন সার্কিট ব্যবহার করে যা সহজেই এনালগ গণনাকে ডিজিটাল সংকেতে রূপান্তর করতে পারে। এটি পূর্ববর্তী "শক্তি-ক্ষুধার্ত এবং এলাকা-ক্ষুধার্ত" সেটআপ থেকে একটি ধাপ উপরে, লেখক ব্যাখ্যা করেছেন।

অপ্টিমাইজেশান কাজ আউট. তাদের তত্ত্বকে পরীক্ষা করে, দলটি NeuRRAM চিপ তৈরি করেছে এবং বিভিন্ন অ্যালগরিদমের জন্য হার্ডওয়্যার প্রোগ্রাম করার জন্য অ্যালগরিদম তৈরি করেছে—যেমন প্লে স্টেশন 5 বিভিন্ন গেম চালাচ্ছে।

অনেক বেঞ্চমার্ক পরীক্ষায়, চিপটি চ্যাম্পের মতো পারফর্ম করেছে। চিপে সাত-স্তরের সিএনএন চালানো, জনপ্রিয় MNIST ডাটাবেস ব্যবহার করে হাতে লেখা অঙ্কগুলি সনাক্ত করতে NeuRRAM-এর ত্রুটির হার এক শতাংশেরও কম ছিল।

এটি আরও কঠিন কাজগুলিতেও পারদর্শী ছিল। আরেকটি জনপ্রিয় ডিপ নিউরাল নেট, এলএসটিএম লোড হচ্ছে, গুগল স্পিচ কমান্ড রিকগনিশনের সাথে চ্যালেঞ্জ করার সময় চিপটি প্রায় 85 শতাংশ সঠিক ছিল। মাত্র আটটি কোর ব্যবহার করে, চিপটি-আরেকটি AI আর্কিটেকচারে চলমান-কোলাহলপূর্ণ চিত্র পুনরুদ্ধার করতে সক্ষম হয়েছিল, প্রায় 70 শতাংশ ত্রুটি কমিয়েছে।

তাহলে কি?

একটি শব্দ: শক্তি।

বেশিরভাগ এআই অ্যালগরিদমগুলি মোট শক্তির হগ। NeuRRAM পূর্ববর্তী অত্যাধুনিক RRAM-CIM চিপগুলির অর্ধেক শক্তি খরচে পরিচালিত, আরও বাস্তবে নিউরোমর্ফিক কম্পিউটিং এর সাথে শক্তি সঞ্চয়ের প্রতিশ্রুতিকে অনুবাদ করে।

কিন্তু অধ্যয়নের স্ট্যান্ডআউট হল এর কৌশল। প্রায়শই চিপ ডিজাইন করার সময়, বিজ্ঞানীদের একাধিক কাজের জন্য দক্ষতা, বহুমুখীতা এবং নির্ভুলতার ভারসাম্য বজায় রাখতে হবে—মেট্রিক যা প্রায়শই একে অপরের সাথে বিরোধপূর্ণ। সমস্ত কম্পিউটিং সরাসরি হার্ডওয়্যারে সম্পন্ন হলে সমস্যাটি আরও কঠিন হয়ে যায়। NeuRRAM দেখিয়েছে যে একসাথে সব জন্তুর সাথে যুদ্ধ করা সম্ভব।

এখানে ব্যবহৃত কৌশলটি অন্যান্য নিউরোমরফিক কম্পিউটিং ডিভাইস যেমন অপ্টিমাইজ করতে ব্যবহার করা যেতে পারে ফেজ-পরিবর্তন মেমরি প্রযুক্তিs, লেখক বলেছেন.

আপাতত, NeuRRAM হল একটি প্রুফ-অফ-কনসেপ্ট, যা দেখায় যে একটি ফিজিক্যাল চিপ-এর একটি সিমুলেশনের পরিবর্তে-উদ্দেশ্য অনুযায়ী কাজ করে। কিন্তু RRAM-কে আরও স্কেল করা এবং এর আকারকে একদিনে সঙ্কুচিত করা আমাদের ফোনে সম্ভাব্যভাবে ফিট করা সহ উন্নতির জন্য জায়গা রয়েছে।

"হয়তো আজ এটি কীওয়ার্ড স্পটিং বা মানব সনাক্তকরণের মতো সাধারণ AI কাজগুলি করতে ব্যবহৃত হয়, তবে আগামীকাল এটি সম্পূর্ণ ভিন্ন ব্যবহারকারীর অভিজ্ঞতা সক্ষম করতে পারে। একটি ছোট ডিভাইসের মধ্যে বক্তৃতা শনাক্তকরণের সাথে একত্রিত রিয়েল-টাইম ভিডিও বিশ্লেষণ কল্পনা করুন,” বলেছেন অধ্যয়ন লেখক ড. Weier Wan. "একজন গবেষক এবং একজন প্রকৌশলী হিসাবে, আমার উচ্চাকাঙ্ক্ষা হল ল্যাব থেকে গবেষণার উদ্ভাবনগুলিকে ব্যবহারিক কাজে নিয়ে আসা।"

চিত্র ক্রেডিট: ডেভিড বেলট / ক্যালিফোর্নিয়া সান দিয়েগো বিশ্ববিদ্যালয়