14 (Nanowerkスポットライト) 相変化メモリ (PCM) は、特殊な材料の相を結晶状態とアモルファス状態の間で変化させることによって、データをナノスケールで保存する不揮発性メモリ技術の一種です。結晶状態では、材料は低い電気抵抗を示しますが、アモルファス状態では高い電気抵抗を示します。異なる加熱パルスと急速冷却パルスを適用することで位相を切り替えることができ、材料の抵抗に基づいてバイナリ値 (0 と 1) または連続アナログ値としてデータの書き込みと読み取りが可能になります。相変化メモリは、特にディープ ニューラル ネットワークやニューロモーフィック コンピューティングにおいて、アナログ インメモリ コンピューティングを進歩させる大きな可能性を秘めた新興テクノロジーです。抵抗値、メモリウィンドウ、抵抗ドリフトなどのさまざまな要因が、これらのアプリケーションにおける PCM のパフォーマンスに影響します。これまでのところ、研究者にとって、さまざまなデバイス特性のみに基づいてインメモリ コンピューティング用の PCM デバイスを比較することは困難であり、多くの場合、トレードオフや相関関係が存在します。もう XNUMX つの課題は、アナログ インメモリ コンピューティングは AI コンピューティングの速度を大幅に向上させ、消費電力を削減できるものの、アナログ メモリ デバイスの不完全性により精度が低下する可能性があることです。新しい研究が発表されました 高度な電子材料 (「アナログインメモリコンピューティング推論のための予測相変化メモリの最適化」)では、1)大規模なニューラル ネットワークの PCM デバイスを広範にベンチマークし、将来これらのデバイスを最適化するための貴重なガイドラインを提供する、2)相変化材料で作られたアナログ メモリ デバイスを改善および最適化し、最終的に AI コンピューティングの精度を向上させることで、これらの問題に対処しています。この研究の筆頭著者であるニン・リー氏(当時、ヨークタウン・ハイツとアルバニーのIBM研究所で働いていた現在はリーハイ大学の准教授)と彼のIBMの同僚は次のように説明している。体系的に調整できます。 以前の研究で紹介したライナー層を使用して体系的に調整できます。次に、広範なシステムレベルのシミュレーションを使用して、システムの観点からこれらのデバイス特性を最適化する方法を見つけました。」これら XNUMX つの進歩により、チームは最適なデバイスを特定することができました。」この研究では、チームは PCM デバイスのドリフトとノイズの動作を表すモデルを作成しました。彼らはこれらのモデルを使用して、ニューラル ネットワーク推論アプリケーションにおけるこれらのデバイスのパフォーマンスを評価しました。彼らは、数千万の重み (つまり、ニューロン間の接続の強さを決定するニューラル ネットワーク内のパラメーター。PCM ベースのアナログ インメモリ コンピューティングの場合、重みは保存されます) を使用して大規模なニューラル ネットワークのパフォーマンスを評価しました。 PCM デバイスの抵抗値として)、プロジェクション ライナー (非相変化材料で作られた PCM デバイス構造に導入される追加の層) の有無にかかわらず PCM デバイスを使用して、さまざまなディープ ニューラル ネットワーク (DNN) と複数のタイムステップでのデータセット。
PCM デバイスの測定された特性と、PCM メモリ ウィンドウの関数としてのネットワーク精度への影響 a) プログラミング範囲 Gmax ~ Gmin、b) ピーク ドリフト係数、c) ドリフト係数の標準偏差、d) 正規化された読み取りノイズ、e) ResNet- 32 (CIFAR-10) プログラミング後の短期 (1 秒) および長期 (1 か月) での推論エラー、f) プログラミング後 1 秒および 1 か月での LSTM (PTB) 推論エラー、g) BERT (MRPC) 推論エラープログラミング後 1 秒と 1 か月の時点、h) プログラミング後 1 秒と 1 か月の時点での BERT (MNLI) 推論エラー。 (Wiley-VCH Verlag の許可を得て転載) (画像をクリックすると拡大します) この研究では、プロジェクション ライナーを備えたデバイスがリカレント ニューラル ネットワーク (RNN)、畳み込みニューラル ネットワーク (CNN)、トランスフォーマーなどのさまざまな種類の DNN で良好に動作することがわかりました。ベースのネットワーク。研究者らはまた、さまざまなデバイス特性がネットワーク精度に及ぼす影響を調査し、さらなる改善につながるライナー付き PCM のターゲットデバイス仕様の範囲を特定しました。 AI コンピューティング用の PCM デバイスに関する以前のレポートとは異なり、この研究では、大規模で有用なディープ ニューラル ネットワークを使用してデバイスの結果をコンピューティング チップの最終結果に結び付けます。 Li 博士は、インメモリ コンピューティング用の PCM デバイスは、デバイスの特性のみを使用して AI アプリケーション用に比較するのは難しいと説明します。この調査では、さまざまな重みマッピング条件下でさまざまなネットワーク内の PCM デバイスの広範なベンチマークと、PCM デバイス最適化のガイドラインを提供することで、この問題の解決策を提供します。デバイス特性が継続的に調整可能であること、およびこれらの特性が相互に相関していることを示すことができれば、デバイスの体系的な最適化が可能になります。研究者らは、最適化戦略を使用して、短期プログラミングと長期プログラミングの両方ではるかに高い精度を達成できることを実証しました。これらにより、ディープ ニューラル ネットワークに対する PCM ドリフトとノイズの影響が大幅に軽減され、初期精度と長期精度の両方が向上しました。 「私たちの研究の潜在的な用途には、言語処理、画像認識、さらには ChatGPT などのより広範な AI アプリケーションにおける速度の向上、電力の削減、コストの削減が含まれます」と Li 氏は指摘します。この研究の結果、研究者らは、大規模なニューラル ネットワークの計算がより高速で、より環境に優しく、より安価になるだろうと構想しています。研究の次の段階には、PCM デバイスのさらなる最適化とコンピュータ チップへの実装が含まれます。 「この研究分野の将来の方向性は、顧客が便利だと思う実際の製品を実現することです」と Li 氏は結論づけています。 「アナログ システムは不完全なアナログ デバイスを使用しますが、速度、電力、コストの点で大きな利点があります。課題は、適切なアプリケーションを特定し、それを有効にすることにあります。」
By
Michael Liebreich
バーガー
–
マイケルは、英国王立化学協会によるXNUMX冊の本の著者です。
ナノ社会:技術の境界を押し上げる,
ナノテクノロジー:未来は小さい,
ナノエンジニアリング:テクノロジーを見えなくするスキルとツール
著作権©
Michael Liebreich
バーガー
–
マイケルは、英国王立化学協会によるXNUMX冊の本の著者です。
ナノ社会:技術の境界を押し上げる,
ナノテクノロジー:未来は小さい,
ナノエンジニアリング:テクノロジーを見えなくするスキルとツール
著作権©
ナノワーク
Spotlightゲスト著者になろう! 私たちの大きく成長しているグループに参加してください ゲスト寄稿者。 科学論文を発表したばかりですか、それともナノテクノロジーコミュニティと共有するための他のエキサイティングな開発がありますか? nanowerk.comで公開する方法は次のとおりです.
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
- 情報源: https://www.nanowerk.com/spotlight/spotid=62821.php
- :は
- 1
- 10
- 7
- 8
- 9
- a
- できる
- 精度
- 達成する
- 越えて
- NEW
- アドレス
- 進歩
- 利点
- 影響を及ぼす
- 後
- AI
- 許可
- しかし
- Amazon
- &
- 別の
- 適用
- です
- AS
- 仲間
- At
- 著者
- ベース
- BE
- になる
- になる
- さ
- BEST
- より良いです
- の間に
- 本
- 後押し
- 境界
- より広い
- by
- 缶
- 場合
- センター
- 挑戦する
- 挑戦
- 変化する
- 変化
- 特性
- AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
- 安い
- 化学
- チップ
- クリック
- 同僚
- コミュニティ
- 比較します
- 計算
- コンピュータ
- コンピューティング
- 条件
- Connections
- 消費
- 連続的な
- 連続的に
- 相関関係
- 費用
- 作成した
- Customers
- データ
- データセット
- 日付
- 深いです
- ディープニューラルネットワーク
- 実証
- 決定する
- 進展
- 偏差
- デバイス
- Devices
- 異なります
- 難しい
- 方向
- 発見
- e
- 効果
- エレクトロニック
- 新興の
- 新興テクノロジー
- enable
- 使用可能
- 有効にする
- 強化
- エラー
- エーテル(ETH)
- 評価
- さらに
- エキサイティング
- 展示
- 説明する
- 説明
- 広範囲
- 要因
- 遠く
- 速いです
- フィールド
- もう完成させ、ワークスペースに掲示しましたか?
- 発見
- 名
- 発見
- から
- function
- さらに
- 未来
- GIF
- 素晴らしい
- 大いに
- グループ
- 成長
- ゲスト
- ガイドライン
- 持ってる
- ハイツ
- ハイ
- 認定条件
- How To
- HTTPS
- i
- IBM
- 特定され
- 識別する
- 識別
- 画像
- 画像認識
- 影響
- 実装
- 改善します
- 改善されました
- 改善
- 改善
- in
- include
- 含めて
- 初期
- 導入
- 調査
- 問題
- IT
- join
- JPG
- 言語
- 大
- 層
- 層
- つながる
- ロゴ
- 長い
- 長期的
- ロー
- 製
- 作成
- 多くの
- マッピング
- 材料
- 材料
- 五月..
- メモリ
- Michael Liebreich
- 真ん中
- 何百万
- モデル
- 月
- の試合に
- 名
- ナノテクノロジー
- ネットワーク
- ネットワーク
- ニューラル
- ニューラルネットワーク
- ニューラルネットワーク
- ニューロン
- 新作
- 次の
- ノイズ
- of
- 提供
- 提供すること
- on
- ONE
- 最適化
- 最適化
- 最適化
- 最適化
- その他
- 紙素材
- パラメータ
- 特に
- ピーク
- 実行する
- パフォーマンス
- 許可
- 相
- PHP
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- ポイント
- 視点
- ポイント
- 可能
- 潜在的な
- 電力
- 前
- 事前の
- 問題
- 処理
- 製品
- 東京大学大学院海洋学研究室教授
- プログラミング
- 投影
- 投影
- は、大阪で
- パブリッシュ
- 公表
- 出版社
- 押す
- 範囲
- 急速に
- 読む
- リアル
- 認識
- 減らします
- 電話代などの費用を削減
- レポート
- 表す
- 研究
- 研究者
- 結果
- 結果
- ロイヤル
- s
- 二番
- シェアする
- ショート
- 短期
- 表示する
- 重要
- 著しく
- スキル
- So
- これまでのところ
- 社会
- 溶液
- 専門の
- 仕様
- スピード
- スポットライト
- ステージ
- 標準
- 都道府県
- 米国
- 保存され
- 店舗
- 戦略
- 力
- 構造
- 勉強
- そのような
- 適当
- 切り替え
- システム
- ターゲット
- チーム
- テクノロジー
- テスト
- それ
- 未来
- アプリ環境に合わせて
- それら
- ボーマン
- 三
- ネクタイ
- 時間
- 役職
- 〜へ
- 一緒に
- 豊富なツール群
- 最終的に
- 下
- 大学
- 更新版
- URL
- つかいます
- 貴重な
- 価値観
- 多様
- さまざまな
- 詳しく見る
- 仕方..
- 重量
- WELL
- which
- while
- 誰
- 意志
- 以内
- 無し
- 仕事
- ワーキング
- 書かれた
- あなたの
- ゼファーネット