14 апреля 2023 г. (Nanowerk В центре внимания) Память с фазовым переходом (PCM) — это технология энергонезависимой памяти, которая хранит данные в наномасштабе путем изменения фазы специального материала между кристаллическим и аморфным состояниями. В кристаллическом состоянии материал имеет низкое электрическое сопротивление, а в аморфном — высокое. Применяя различные импульсы нагрева и быстрого охлаждения, можно переключать фазу, что позволяет записывать и считывать данные в виде двоичных значений (0 с и 1 с) или непрерывных аналоговых значений в зависимости от сопротивления материала. Память с фазовым переходом — это новая технология с большим потенциалом для продвижения аналоговых вычислений в памяти, особенно в глубоких нейронных сетях и нейроморфных вычислениях. Различные факторы, такие как значения сопротивления, окно памяти и дрейф сопротивления, влияют на производительность PCM в этих приложениях. До сих пор исследователям было сложно сравнивать устройства PCM для вычислений в памяти, основываясь исключительно на их различных характеристиках устройств, которые часто имели компромиссы и корреляции. Другая проблема заключается в том, что аналоговые вычисления в памяти могут значительно повысить скорость и снизить энергопотребление для вычислений ИИ, но могут пострадать от снижения точности из-за несовершенства аналоговых устройств памяти. Новое исследование, опубликованное в Современные электронные материалы («Оптимизация памяти прогнозируемого фазового перехода для аналоговых вычислений в памяти»), решает эти проблемы за счет 1) обширного сравнительного анализа устройств PCM в больших нейронных сетях, предлагая ценные рекомендации по оптимизации этих устройств в будущем и 2) улучшения и оптимизации аналоговых устройств памяти, изготовленных из материалов с фазовым переходом, что в конечном итоге повышает точность вычислений ИИ. Нин Ли, который в то время работал в исследовательском центре IBM в Йорктаун-Хайтс и Олбани (сейчас доцент Университета Лихай), первый автор исследования, и его коллеги из IBM объясняют: «Во-первых, мы обнаружили, что многие характеристики устройств можно систематически настраивать систематически с помощью подкладочного слоя, представленного в нашей предыдущей работе. Во-вторых, мы нашли способ оптимизировать эти характеристики устройства с точки зрения системы, используя обширное моделирование на уровне системы». Вместе эти два достижения позволили команде определить лучшие устройства». В этой работе команда создала модели для представления дрейфа и шумового поведения устройств PCM. Они использовали эти модели для оценки производительности этих устройств в приложениях для вывода нейронных сетей. Они оценили производительность больших нейронных сетей с десятками миллионов весов (то есть параметров в нейронной сети, которые определяют прочность связей между нейронами; в случае аналоговых вычислений в памяти на основе PCM веса хранятся как значения сопротивления в устройствах PCM) с использованием устройств PCM как с проекционными вкладышами, так и без них (дополнительные слои, введенные в структуру устройства PCM, которые сделаны из материала без фазового перехода), тестирование различных глубоких нейронных сетей (DNN) и наборы данных с несколькими временными шагами.
Измеренные характеристики устройства ИКМ и их влияние на точность сети в зависимости от окна памяти ИКМ а) диапазон программирования Gmax–Gmin, б) пиковый коэффициент дрейфа, в) стандартное отклонение коэффициента дрейфа, г) нормализованный шум чтения, д) ResNet- 32 (CIFAR-10) ошибка вывода при краткосрочном (1 секунде) и долговременном (1 месяц) после программирования, f) ошибка вывода LSTM (PTB) через 1 секунду и 1 месяц после программирования, g) ошибка вывода BERT (MRPC) через 1 секунду и 1 месяц после программирования, h) ошибка вывода BERT (MNLI) через 1 секунду и 1 месяц после программирования. (Перепечатано с разрешения Wiley-VCH Verlag) (щелкните изображение, чтобы увеличить его) Исследование показало, что устройства с проекционными лайнерами хорошо работают с различными типами DNN, включая рекуррентные нейронные сети (RNN), сверточные нейронные сети (CNN) и преобразователи. основанные сети. Исследователи также изучили влияние различных характеристик устройств на точность сети и определили ряд спецификаций целевых устройств для PCM с вкладышами, которые могут привести к дальнейшим улучшениям. В отличие от предыдущих отчетов об устройствах PCM для вычислений ИИ, эта работа связывает результаты устройств с конечными результатами вычислительных чипов с большими и полезными глубокими нейронными сетями. Доктор Ли объясняет, что устройства PCM для вычислений в памяти трудно сравнивать для приложений ИИ, используя только характеристики устройства. Исследование предлагает решение этой проблемы, предлагая обширный сравнительный анализ устройств PCM в различных сетях при различных условиях сопоставления весов и рекомендации по оптимизации устройств PCM. Имея возможность показать, что характеристики устройства можно настраивать непрерывно и что эти характеристики коррелируют друг с другом, становится возможной систематическая оптимизация устройств. Используя свою стратегию оптимизации, исследователи продемонстрировали, что могут добиться гораздо большей точности как для краткосрочного, так и для долгосрочного программирования. Они значительно уменьшили влияние дрейфа ИКМ и шума на глубокие нейронные сети, повысив как начальную, так и долговременную точность. «Потенциальные приложения нашей работы включают в себя повышение скорости, снижение энергопотребления и снижение затрат на языковую обработку, распознавание изображений и даже более широкие приложения ИИ, такие как ChatGPT», — отмечает Ли. Исследователи предполагают, что в результате этой работы большие вычисления в нейронных сетях станут быстрее, экологичнее и дешевле. Следующие этапы их исследований включают дальнейшую оптимизацию устройств PCM и внедрение их в компьютерные чипы. «Будущее направление для этой области исследований — создание реальных продуктов, которые клиенты считают полезными», — заключает Ли. «Хотя в аналоговых системах используются несовершенные аналоговые устройства, они предлагают значительные преимущества в скорости, мощности и стоимости. Задача заключается в том, чтобы определить подходящие приложения и активировать их».
By
Майкл
Бергер
–
Майкл является автором трех книг Королевского химического общества:
Нано-общество: раздвигая границы технологий,
Нанотехнология: будущее крошечнокачества
Наноинженерия: навыки и инструменты, делающие технологию невидимой
Все права защищены ©
Майкл
Бергер
–
Майкл является автором трех книг Королевского химического общества:
Нано-общество: раздвигая границы технологий,
Нанотехнология: будущее крошечнокачества
Наноинженерия: навыки и инструменты, делающие технологию невидимой
Все права защищены ©
нанотехнология
Станьте приглашенным автором Spotlight! Присоединяйтесь к нашей большой и растущей группе приглашенные участники. Вы только что опубликовали научную статью или хотите поделиться другими интересными событиями с сообществом нанотехнологов? Вот как опубликовать на nanowerk.com.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
- Источник: https://www.nanowerk.com/spotlight/spotid=62821.php
- :является
- 1
- 10
- 7
- 8
- 9
- a
- в состоянии
- точность
- Достигать
- через
- дополнительный
- адреса
- авансы
- Преимущества
- влиять на
- После
- AI
- Позволяющий
- Несмотря на то, что
- Amazon
- и
- Другой
- Приложения
- Применение
- МЫ
- AS
- Юрист
- At
- автор
- основанный
- BE
- становиться
- становится
- не являетесь
- ЛУЧШЕЕ
- Лучшая
- между
- Книги
- стимулирование
- Границы
- шире
- by
- CAN
- случаев
- Центр
- вызов
- сложные
- изменение
- изменения
- характеристика
- ChatGPT
- более дешевый
- химия
- чипсы
- нажмите на
- коллеги
- сообщество
- сравнить
- вычисление
- компьютер
- вычисление
- Условия
- Коммутация
- потребление
- (CIJ)
- непрерывно
- корреляции
- Цена
- создали
- Клиенты
- данным
- Наборы данных
- Время
- глубоко
- глубокие нейронные сети
- убивают
- Определять
- события
- отклонение
- устройство
- Устройства
- различный
- трудный
- направление
- открытый
- e
- эффекты
- Электронный
- появление
- Новые технологии
- включить
- включен
- позволяет
- повышение
- ошибка
- Эфир (ETH)
- оценивается
- Даже
- захватывающий
- Экспонаты
- Объяснять
- Объясняет
- обширный
- факторы
- далеко
- быстрее
- поле
- Найдите
- находит
- First
- Что касается
- найденный
- от
- функция
- далее
- будущее
- GIF
- большой
- значительно
- группы
- Рост
- GUEST
- методические рекомендации
- Есть
- высоты
- High
- Как
- How To
- HTTPS
- i
- IBM
- идентифицированный
- определения
- идентифицирующий
- изображение
- Распознавание изображений
- Влияние
- Осуществляющий
- улучшать
- улучшенный
- улучшение
- улучшение
- in
- включают
- В том числе
- начальный
- выпустили
- Исследования
- вопросы
- IT
- присоединиться
- JPG
- язык
- большой
- слой
- слоев
- вести
- логотип
- Длинное
- долгосрочный
- Низкий
- сделанный
- Создание
- многих
- отображение
- материала
- материалы
- Май..
- Память
- Майкл
- средняя
- миллионы
- Модели
- Месяц
- с разными
- имя
- нанотехнологии
- сеть
- сетей
- нервный
- нейронной сети
- нейронные сети
- Нейроны
- Новые
- следующий
- Шум
- of
- предлагают
- предлагающий
- on
- ONE
- оптимизация
- Оптимизировать
- оптимизированный
- оптимизирующий
- Другие контрактные услуги
- бумага & картон
- параметры
- особенно
- Вершина горы
- выполнять
- производительность
- разрешение
- фаза
- PHP
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Точка
- Точка зрения
- пунктов
- возможное
- потенциал
- мощностью
- предыдущий
- Предварительный
- Проблема
- обработка
- Продукция
- Профессор
- Программирование
- прогнозируемых
- Проекция
- приводит
- публиковать
- опубликованный
- издатель
- Нажимать
- ассортимент
- быстро
- Читать
- реальные
- признание
- уменьшить
- Цена снижена
- Отчеты
- представлять
- исследованиям
- исследователи
- Сопротивление
- результат
- Итоги
- королевский
- s
- Во-вторых
- Поделиться
- Короткое
- краткосрочный
- показывать
- значительный
- существенно
- навыки
- So
- уже
- Общество
- Решение
- специализированный
- спецификации
- скорость
- Прожектор
- этапы
- стандарт
- Область
- Области
- хранить
- магазины
- Стратегия
- прочность
- Структура
- Кабинет
- такие
- подходящее
- включается
- система
- системы
- цель
- команда
- Технологии
- Тестирование
- который
- Ассоциация
- Будущее
- их
- Их
- Эти
- три
- Галстуки
- время
- Название
- в
- вместе
- инструменты
- Типы
- В конечном счете
- под
- Университет
- Updates
- URL
- использование
- ценный
- Наши ценности
- разнообразие
- различный
- Вид
- Путь..
- вес
- ЧТО Ж
- который
- в то время как
- КТО
- будете
- в
- без
- Работа
- работает
- письменный
- ВАШЕ
- зефирнет
Больше от нанотехнология
TESS НАСА обнаружил второй мир размером с Землю в планетарной системе
Исходный узел: 1890620
Отметка времени: 11 января, 2023
Новые настраиваемые двумерные нанолисты позволяют использовать многие полупроводниковые приложения, от электроники до фотокатализа.
Исходный узел: 2011573
Отметка времени: 15 Марта, 2023
Самосборка с лазерным управлением обеспечивает точное изготовление микрорулонов для сложных применений.
Исходный узел: 2534870
Отметка времени: 4 Апрель, 2024
Исследователи контролируют отдельные молекулы для точного обнаружения
Исходный узел: 2139741
Отметка времени: Июнь 19, 2023
Гибридные связанные состояния в континууме терагерцовых метаповерхностей
Исходный узел: 2108656
Отметка времени: 26 мая 2023
Титановые микрошипы устойчивы к протыканию супербактерий.
Исходный узел: 2243401
Отметка времени: Август 29, 2023
Порядок укладки и напряжение усиливают генерацию второй гармоники с помощью двумерных гетеробислоев Януса
Исходный узел: 2292508
Отметка времени: сентябрь 26, 2023
Передовой метод визуализации проливает свет на то, как складываются нити ДНК
Исходный узел: 2224943
Отметка времени: Август 17, 2023
Наблюдение когерентного движения электронов с помощью аттосекундного секундомера
Исходный узел: 2276425
Отметка времени: сентябрь 16, 2023
В системах лиганд-белок обнаружен новый тип трения
Исходный узел: 2042093
Отметка времени: 31 Марта, 2023
Путь атомного осаждения слоев для получения масштабируемых тонких пленок Ван-дер-Ваальса Те электронного качества
Исходный узел: 2277974
Отметка времени: сентябрь 18, 2023