AI応用アナログメモリスタの高精度化アルゴリズムを開発

新規AI計算アーキテクトの実装に向けて

2025-3-11●工学系

基礎工学研究科助教DIAO ZHUO

高精度・超低消費電力AIに不可欠な「アナログメモリスタ」の抵抗レベル数を各段に向上させる新しいアルゴリズムを開発
AIの精度向上にはより高い抵抗レベル数が必要とされるが、設定可能な抵抗レベル数が限られることや非線形な抵抗変化により、設定できる抵抗レベル数は限られていた
より深層なニューラルネットワークに対応できる新規のAI計算アーキテクトの実装に期待

概要

大阪大学大学院基礎工学研究科システム創成専攻のDIAO ZHUO助教、藤平哲也准教授、酒井朗教授

らの研究グループは、アナログメモリスタの新しい抵抗制御技術を開発しました。

アナログメモリスタは、電圧をかけると抵抗値が変わる特別な電子部品です。電圧をかけることで抵抗値を自由に設定することができ、１つのメモリスタで複数の情報を記憶することができるという特徴を持っています。これらの特徴を生かし、ニューラルネットワークの重みを抵抗状態に対応させることで、AIハードウェアにおけるエネルギー効率と演算速度を飛躍的に向上させる可能性を秘めています。AIの精度向上にはアナログメモリスタの抵抗レベル数を増加させることが必須ですが、設定可能な抵抗レベル数が限られることや非線形な抵抗変化が問題となり、特に複雑なタスクで必要とされる抵抗制御の精度向上が課題となっていました。

今回、研究グループが開発した制御技術を用いてアナログメモリスタをRPUとして2000万パラメータのニューラルネットワーク計算を行った結果、95.5%の精度を達成できました。抵抗制御のアルゴリズムを改善することで、僅か1.1倍の抵抗比でも最大512個の線形的な抵抗レベルを設定することができることを確認しました。

この技術は、スマートフォンやIoTデバイスなどの低消費電力エッジハードウェアへの高度なAIモデルの実装に繋がることが期待されます。

本研究成果は、英国科学誌「Nanoscale Horizons」に、2025年2月4日に公開されました。

図. アナログメモリスタに新しい制御法を導入することで、構成可能な抵抗レベルの線形性を向上させ、AIモデルの精度に影響を与えるボトルネックを取り除くことができる。

研究の背景

アナログメモリスタは、電圧をかけると抵抗値が変わる特別な電子部品です。ニューラルネットワークの重みを抵抗状態に対応させることで、AIハードウェアにおけるエネルギー効率と演算速度を飛躍的に向上させる可能性を秘めています。特に、アナログメモリスタでAIの計算精度を向上させるには、抵抗レベル数を増加させることや制御信号印加に対する抵抗変化の線形性を高めることが必須です。

しかしこれまでは、設定可能な抵抗レベル数が限られることや非線形な抵抗変化が問題となり、特に複雑なタスクで必要とされる抵抗制御の精度向上が課題となっていました。既存のメモリスタで設定できる抵抗レベル数は100程度に留まり、高精度な計算が必要とされるディープニューラルネットワークには適用が困難でした。

研究の内容

今回、研究グループはフィードフォワードの抵抗制御アルゴリズムを新たに開発しました。このアルゴリズムでは、制御信号ごとに計測した抵抗変化率を事前に校正する方式によって、メモリスタの抵抗変化に係る非線形性を補正し、抵抗レベルの数を各段に増加させることができます。ここでは、抵抗変化の制御性に長けたバルク型電気伝導メモリスタに着目し、これまで同研究グループが開発してきた、ドーパントイオン（酸素空孔）の二次元トポロジーを精密に制御できる平面型4端子TiO_2-xメモリスタを利用しました。これにより、僅か1.1倍の抵抗比でも512段階の安定した抵抗レベルと10^-3の低非線形性指標を実現しました。

さらに、本研究ではアナログメモリスタで構成するニューラルネットワークの精度評価フレームワークを構築し、抵抗レベル数と非線形性がニューラルネットワークの性能に与える影響を定量化する手法を開発しました。検証の結果、単純なタスク（例：MNISTの手書き数字認識）には8レベル(3ビット精度)で十分ですが、ResNet-34のような複雑なデータセットでは256レベル(8ビット精度)が必要であり、本研究で開発したアルゴリズムと平面型4端子TiO_2-xメモリスタでは95.5%の分類精度を達成しました。

本研究成果が社会に与える影響(本研究成果の意義)

本研究で開発したメモリスタの制御技術により、抵抗のレベル数と設定精度が向上し、それに伴いインメモリ計算の精度も向上します。これにより、AIはより複雑なタスクを高精度かつ高効率で処理できます。　

さらに、本研究で用いたバルク型電気伝導メモリスタと、それに対応する、ドーパントイオンの二次元トポロジーの制御機構は、更なる高精度デバイスの実現に寄与すると期待されます。

特記事項

本研究成果は、2025年2月4日に英国科学誌「Nanoscale Horizons」（オンライン）に掲載されました。

タイトル：“Enhancing Memristor Multilevel Resistance State with Linearity Potentiation via Feedforward Pulse Scheme”
著者名：Zhuo Diao、Ryohei Yamamoto、Meng Zijie、Tetsuya Tohei、Akira Sakai
ＤＯＩ：10.1039/D4NH00623B

なお、本研究はJSPS科研費JP24K21620、JP24K00926、および大阪大学基礎工学研究科未来研究ラボ（個人研究）の一環として行われました。

参考URL

DIAO ZHUO助教研究者総覧
https://rd.iai.osaka-u.ac.jp/ja/ca0e0a517eb1af43.html

SDGsの目標

用語説明

アナログメモリスタ: メモリスタはレジスタ、インダクタ、キャパシタにつぐ、第四の受動素子。素子が可変な抵抗（レジスタ）値を不揮発に記憶（メモリ）していることからこのように呼ばれる。アナログ型メモリスタ素子は、電圧を印加すると多値的に抵抗変化するので、抵抗値の設定は可逆的に書き込み可能であり、multi-bitメモリとして応用できる。
RPU: resistive processing unit. RPUは、大量のメモリスタを集積した回路を用いたインメモリ計算アーキテクチャである。特に、メモリスタで設定した抵抗値を利用し、オームの法則とキルヒホッフの法則に基づいて高次元の行列の積和演算を実行できることから、新しいAIハードウェアとして期待されている。これは従来の計算機とは異なり、メモリとプロセッサ間の頻繁なデータ転送によるメモリボトルネックが存在しない。RPUはメモリ内で直接計算を実行できるため、エネルギー効率とスループットが大幅に向上する。
抵抗比: メモリスタの高抵抗状態（HRS）と低抵抗状態（LRS）の比率を示す指標であり、一般的にスイッチングデバイスの性能を評価する際に用いられる。高い抵抗比を持つデバイスは、ON/OFFの識別が容易であり、バイナリメモリとしての利用に適している。アナログメモリスタでは、より大きな抵抗比を持つことが、細かい抵抗値の制御に有利であり、多値記憶やアナログ計算への適用に適しているといわれている。
平面型4端子TiO2-xメモリスタ: 従来の2端子型メモリスタから独立した制御端子を追加することで、抵抗変化の精度を向上させるデバイス構造である。詳細は本グループの過去研究を参照(https://resou.osaka-u.ac.jp/ja/research/2022/20220428_1)
低非線形性指標: メモリスタの抵抗変化が電圧に対してどれだけ均一に変化するかを示す指標である。理想的なアナログメモリスタでは、抵抗値が電圧や電流の変化に対して線形に変動することが求められる。しかし、実際のデバイスでは、電圧依存性が強く、一部の範囲で急激な変化が起こるため、非線形性指標が低いほどデバイスの数値精度は良い。
ResNet-34: ResNet-34は深層学習で用いられる畳み込みニューラルネットワーク（CNN）の一種であり、画像認識/分類、物体検出などの多くの分野で実用化されている。

キーワード

メモリスタ AIハードウェアニューラルネットワーク RPU SDGs

この研究についてひとこと

DIAO ZHUO