14 اپریل 2023 (نانوورک اسپاٹ لائٹ) Phase change memory (PCM) is a type of non-volatile memory technology that stores data at the nanoscale by changing the phase of a specialized material between crystalline and amorphous states. In the crystalline state, the material exhibits low electrical resistance, while in the amorphous state, it has high resistance. By applying different heat and rapidly cooling pulses, the phase can be switched, allowing data to be written and read as binary values (0s and 1s) or continuous analog values based on the material’s resistance.
Phase change memory is an emerging technology with great potential for advancing analog in-memory computing, particularly in deep neural networks and neuromorphic computing. Various factors, such as resistance values, memory window, and resistance drift, affect the performance of PCM in these applications. So far, it has been challenging for researchers to compare PCM devices for in-memory computing based solely on their various device characteristics, which often had trade-offs and correlations.
Another challenge is that analog in-memory computing can greatly improve the speed and reduce the power consumption for AI computing, but it may suffer from reduced accuracy due to imperfection in the analog memory devices.
New research, published in اعلی درجے کی الیکٹرانک مواد (“Optimization of Projected Phase Change Memory for Analog In-Memory Computing Inference”), addresses these issues by 1) extensively benchmarking PCM devices in large neural networks, offering valuable guidelines for optimizing these devices in the future, and 2) improving and optimizing analog memory devices made with phase change materials, ultimately enhancing accuracy for AI computing.
Ning Li, who at the time was working at the IBM Research in Yorktown Heights and Albany (now an Associate Professor at Lehigh University), the first author of the study, and his IBM colleagues explain: “First, we discovered that many device characteristics can be tuned systematically tuned systematically using a liner layer introduced in our prior work. Second, we found a way to optimize these device characteristics from a system point of view using extensive system-level simulations.” These two advances together enabled the team to identify the best devices.”
In this work, the team created models to represent the drift and noise behavior of PCM devices. They used these models to assess the performance of these devices in neural network inference applications. They evaluated the performance of large neural networks with tens of millions of weights (i.e., the parameters within a neural network that determine the strength of the connections between neurons; In the case of PCM-based analog in-memory computing, the weights are stored as resistance values in the PCM devices) using PCM devices both with and without projection liners (additional layers introduced into the PCM device structure, which are made of a non-phase change material), testing a variety of deep neural networks (DNNs) and datasets at multiple time-steps.
Measured characteristics of PCM device and their impact on network accuracy as a function of PCM memory window a) programming range Gmax–Gmin, b) peak drift coefficient, c) standard deviation of drift coefficient, d) normalized read noise, e) ResNet-32 (CIFAR-10) inference error at short term (1 second) and long term (1 month) after programming, f) LSTM (PTB) inference error at 1 second and 1 month after programming, g) BERT (MRPC) inference error at 1 second and 1 month after programming, h) BERT (MNLI) inference error at 1 second and 1 month after programming. (Reprinted with permission by Wiley-VCH Verlag) (click on image to enlarge)
The study finds that devices with projection liners perform well across various DNN types, including recurrent neural networks (RNNs), convolutional neural networks (CNNs), and transformer-based networks. The researchers also examined the impact of different device characteristics on network accuracy and identified a range of target device specifications for PCM with liners that can lead to further improvements.
Unlike previous reports on PCM devices for AI computing, this work ties device results to the end results of computing chips with large and useful deep neural networks. Dr. Li explains that PCM devices for in-memory computing are difficult to compare for AI applications by only using device characteristics. The study provides a solution to this problem by offering extensive benchmarking of PCM devices in various networks under various conditions of weight mapping and guidelines for PCM device optimization.
By being able to show that device characteristics can be tuned continuously, and that these characteristics are correlated with one another, systematic optimization of the devices becomes possible.
Using their optimization strategy, the researchers demonstrated that they can achieve much better accuracy for both short-term and long-term programming. They significantly reduced the effects of PCM drift and noise on deep neural networks, improving both initial accuracy and long-term accuracy.
“Potential applications of our work include improved speed, reduced power, and reduced cost in language processing, image recognition, and even broader AI applications, such as ChatGPT,” Li points out.
As a result of this work, the researchers envision that large neural network computation will become faster, greener, and cheaper. The next stages in their investigations include further optimizing PCM devices and implementing them in computer chips.
“The future direction for this research field is to enable real products that customers find useful,” Li concludes. “Although analog systems use imperfect analog devices, they offer significant advantages in speed, power, and cost. The challenge lies in identifying suitable applications and enabling them.”
By
مائیکل
برجر
-
مائیکل رائل سوسائٹی آف کیمسٹری کی تین کتابوں کے مصنف ہیں:
نینو سوسائٹی: ٹیکنالوجی کی حدود کو آگے بڑھانا,
نینو ٹیکنالوجی: مستقبل چھوٹا ہے۔، اور
نینو انجینئرنگ: ٹیکنالوجی کو پوشیدہ بنانے کی مہارت اور اوزار
کاپی رائٹ ©
مائیکل
برجر
-
مائیکل رائل سوسائٹی آف کیمسٹری کی تین کتابوں کے مصنف ہیں:
نینو سوسائٹی: ٹیکنالوجی کی حدود کو آگے بڑھانا,
نینو ٹیکنالوجی: مستقبل چھوٹا ہے۔، اور
نینو انجینئرنگ: ٹیکنالوجی کو پوشیدہ بنانے کی مہارت اور اوزار
کاپی رائٹ ©
نانوورک
اسپاٹ لائٹ مہمان مصنف بنیں! ہمارے بڑے اور بڑھتے ہوئے گروپ میں شامل ہوں۔ مہمان شراکت دار. کیا آپ نے ابھی ایک سائنسی مقالہ شائع کیا ہے یا نینو ٹیکنالوجی کمیونٹی کے ساتھ اشتراک کرنے کے لیے دیگر دلچسپ پیش رفتیں ہیں؟ nanowerk.com پر شائع کرنے کا طریقہ یہاں ہے۔.
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو بلاک چین۔ Web3 Metaverse Intelligence. علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://www.nanowerk.com/spotlight/spotid=62821.php
- : ہے
- 1
- 10
- 7
- 8
- 9
- a
- قابلیت
- درستگی
- حاصل
- کے پار
- ایڈیشنل
- پتے
- ترقی
- فوائد
- پر اثر انداز
- کے بعد
- AI
- اجازت دے رہا ہے
- اگرچہ
- ایمیزون
- اور
- ایک اور
- ایپلی کیشنز
- درخواست دینا
- کیا
- AS
- ایسوسی ایٹ
- At
- مصنف
- کی بنیاد پر
- BE
- بن
- ہو جاتا ہے
- کیا جا رہا ہے
- BEST
- بہتر
- کے درمیان
- کتب
- اضافے کا باعث
- حدود
- وسیع
- by
- کر سکتے ہیں
- کیس
- سینٹر
- چیلنج
- چیلنج
- تبدیل
- تبدیل کرنے
- خصوصیات
- چیٹ جی پی ٹی
- سستی
- کیمسٹری
- چپس
- کلک کریں
- ساتھیوں
- کمیونٹی
- موازنہ
- حساب
- کمپیوٹر
- کمپیوٹنگ
- حالات
- کنکشن
- کھپت
- مسلسل
- مسلسل
- باہمی تعلقات
- قیمت
- بنائی
- گاہکوں
- اعداد و شمار
- ڈیٹاسیٹس
- تاریخ
- گہری
- گہرے عصبی نیٹ ورک
- demonstrated,en
- اس بات کا تعین
- رفت
- انحراف
- آلہ
- کے الات
- مختلف
- مشکل
- سمت
- دریافت
- e
- اثرات
- الیکٹرانک
- کرنڈ
- ایمرجنسی ٹیکنالوجی
- کو چالو کرنے کے
- چالو حالت میں
- کو فعال کرنا
- بڑھانے
- خرابی
- Ether (ETH)
- اندازہ
- بھی
- دلچسپ
- نمائش
- وضاحت
- بیان کرتا ہے
- وسیع
- عوامل
- دور
- تیز تر
- میدان
- مل
- پتہ ہے
- پہلا
- کے لئے
- ملا
- سے
- تقریب
- مزید
- مستقبل
- GIF
- عظیم
- بہت
- گروپ
- بڑھتے ہوئے
- مہمان
- ہدایات
- ہے
- اونچائی
- ہائی
- کس طرح
- کیسے
- HTTPS
- i
- IBM
- کی نشاندہی
- شناخت
- کی نشاندہی
- تصویر
- تصویری شناخت
- اثر
- پر عمل درآمد
- کو بہتر بنانے کے
- بہتر
- بہتری
- کو بہتر بنانے کے
- in
- شامل
- سمیت
- ابتدائی
- متعارف
- تحقیقات
- مسائل
- IT
- میں شامل
- فوٹو
- زبان
- بڑے
- پرت
- تہوں
- قیادت
- علامت (لوگو)
- لانگ
- طویل مدتی
- لو
- بنا
- بنانا
- بہت سے
- تعریفیں
- مواد
- مواد
- مئی..
- یاد داشت
- مائیکل
- مشرق
- لاکھوں
- ماڈل
- مہینہ
- ایک سے زیادہ
- نام
- نےنو
- نیٹ ورک
- نیٹ ورک
- عصبی
- عصبی نیٹ ورک
- نیند نیٹ ورک
- نیورسن
- نئی
- اگلے
- شور
- of
- پیش کرتے ہیں
- کی پیشکش
- on
- ایک
- اصلاح کے
- کی اصلاح کریں
- اصلاح
- اصلاح
- دیگر
- کاغذ.
- پیرامیٹرز
- خاص طور پر
- چوٹی
- انجام دینے کے
- کارکردگی
- اجازت
- مرحلہ
- پی ایچ پی
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- پوائنٹ
- نقطہ نظر
- پوائنٹس
- ممکن
- ممکنہ
- طاقت
- پچھلا
- پہلے
- مسئلہ
- پروسیسنگ
- حاصل
- ٹیچر
- پروگرامنگ
- متوقع
- پروجیکشن
- فراہم کرتا ہے
- شائع
- شائع
- پبلیشر
- دھکیلنا
- رینج
- میں تیزی سے
- پڑھیں
- اصلی
- تسلیم
- کو کم
- کم
- رپورٹیں
- کی نمائندگی
- تحقیق
- محققین
- مزاحمت
- نتیجہ
- نتائج کی نمائش
- شاہی
- s
- دوسری
- سیکنڈ اور
- مختصر
- مختصر مدت کے
- دکھائیں
- اہم
- نمایاں طور پر
- مہارت
- So
- اب تک
- سوسائٹی
- حل
- خصوصی
- وضاحتیں
- تیزی
- کے لئے نشان راہ
- مراحل
- معیار
- حالت
- امریکہ
- ذخیرہ
- پردہ
- حکمت عملی
- طاقت
- ساخت
- مطالعہ
- اس طرح
- موزوں
- سوئچڈ
- کے نظام
- سسٹمز
- ہدف
- ٹیم
- ٹیکنالوجی
- ٹیسٹنگ
- کہ
- ۔
- مستقبل
- ان
- ان
- یہ
- تین
- تعلقات
- وقت
- عنوان
- کرنے کے لئے
- مل کر
- اوزار
- اقسام
- آخر میں
- کے تحت
- یونیورسٹی
- تازہ ترین معلومات
- URL
- استعمال کی شرائط
- قیمتی
- اقدار
- مختلف اقسام کے
- مختلف
- لنک
- راستہ..
- وزن
- اچھا ہے
- جس
- جبکہ
- ڈبلیو
- گے
- ساتھ
- کے اندر
- بغیر
- کام
- کام کر
- لکھا
- اور
- زیفیرنیٹ
سے زیادہ نانوورک
کوانٹم مواد 'غیر مقامی' رویے کی نمائش کرتا ہے جو دماغ کے کام کی نقل کرتا ہے۔
ماخذ نوڈ: 2201973
ٹائم اسٹیمپ: اگست 8، 2023
اے آئی پاور پلانٹس کو گرڈ سے 36 فیصد کم توانائی استعمال کرتے ہوئے کاربن حاصل کرنے میں مدد کر سکتا ہے۔
ماخذ نوڈ: 2442056
ٹائم اسٹیمپ: جنوری 15، 2024
اعلی درجے کی کمپیوٹنگ نانو ساختی سطحوں پر خود مختار تحقیقات لاتی ہے۔
ماخذ نوڈ: 2365769
ٹائم اسٹیمپ: نومبر 4، 2023
پیرووسکائٹ شمسی سیل کی تنزلی کے خلاف مزاحمت کو بہتر بنانا
ماخذ نوڈ: 1907106
ٹائم اسٹیمپ: جنوری 19، 2023
نانوسکل پر اینٹروپی کی پیداوار کی پیمائش کرنے کا نیا طریقہ
ماخذ نوڈ: 2526486
ٹائم اسٹیمپ: مارچ 26، 2024
مہلک متعدی بیماریوں کا پتہ لگانے کے لیے انتہائی حساس تکنیک
ماخذ نوڈ: 2289236
ٹائم اسٹیمپ: ستمبر 22، 2023
فرمی لیول ٹیونڈ وین ڈیر والس سیمیٹل الیکٹروڈ کے ساتھ پی ٹائپ 2 ڈی سنگل کرسٹل لائن ٹرانزسٹر اریوں کی تعمیر
ماخذ نوڈ: 2294144
ٹائم اسٹیمپ: ستمبر 26، 2023
AI شہری منصوبہ سازوں اور پالیسی سازوں کو شہروں کے زوال سے آگاہ کر سکتا ہے۔
ماخذ نوڈ: 2353333
ٹائم اسٹیمپ: اکتوبر 28، 2023