研究者チームは、光集積回路を物理チップ上で直接トレーニングするための一般的な方法を実証した。これは、光プロセッサを、あらかじめ設計された固定アクセラレータから、構築後に学習するハードウェアに変えることができるステップである。 Nature Computational Science に掲載されたこの研究は、「フォトニック回路が訓練可能な AI ハードウェアになる」というタイトルの関連概要に要約されています。
INSPIRE（オンチップ、インサイチュ物理的勾配降下の略）と呼ばれるこの方法は、人工知能向けのフォトニック コンピューティングにおける中心的なボトルネックの 1 つを解決します。フォトニック プロセッサは速度とエネルギー効率の大幅な向上を約束しますが、そのトレーニングは依然として、高価な物理モデリングを必要とし、製造に起因するエラーに悩まされるデジタル シミュレーションに主に限定されています。 この件の詳細は、AIの最新動向をご覧ください。
フォトニック AI チップのトレーニングが難しい理由
現在、ほとんどのニューラル ネットワークはデジタル ハードウェアでトレーニングされており、勾配を正確に計算できます。フォトニック回路は異なります。光は完全にモデル化することが困難な方法で干渉、散乱、結合します。また、製造上のわずかなばらつきにより、研究室のチップがデジタル ツインとまったく同じように動作することはほとんどありません。ネットワークをオフラインでトレーニングしてからパラメーターをチップに転送することは、精度を低下させる不一致を受け入れることを意味します。
これまでの研究により、この問題は少しずつ解明されてきました。研究では、フォトニック ニューラル ネットワークにおけるその場バックプロパゲーションと勾配測定が実証されており、2024 年には、研究者らはデジタル モデル エミュレーションへの依存を減らすために、光ニューラル ネットワークに完全なフォワード モード トレーニングを導入しました。新しい研究では、1 つの設計に合わせたものではなく、回路アーキテクチャ全体で一般的な方法を主張することで、この路線を拡張しています。
INSPIRE の仕組み
この論文によると、INSPIREはオンチップ合成時間反転ホログラフィーを使用して、双方向フォトニックモードの完全な複雑なフィールドを測定します。この測定により、チップの完全なデジタル モデルを必要とせずに、回路自体が勾配を計算し、自身のパラメーターを更新できるようになります。
実際的な結果は重大です。勾配計算は物理システム内で行われるため、製造後にさまざまな回路トポロジをトレーニングでき、ハードウェアは忠実なデジタル レプリカなしで行列設計、多波長計算、および高速メタ学習を処理できます。従来のワークフローでは、これらの各ステップは、実際のチップでは保証できないシミュレーションの精度に依存していました。
このフレームワークはトポロジーに依存しないと説明されており、これは、単一のオーダーメイドのレイアウトではなく、多様な光回路設計で動作することを意味します。勾配は物理的に測定されるため、製造後にネットワークをトレーニングして、ノイズとしてカウントされる製造上の欠陥そのものを吸収できます。
結果
報告された数値は具体的です。実験では、この方法により相対誤差が 0.26% の学習済み行列が得られました。チームはまた、回路内のネイティブの調整可能な要素の数よりも大きい行列の散乱媒体を使用したその場トレーニングを実証しました。これにより、問題が名目上必要とするよりも少ない物理制御で効果的に学習できます。
おそらく最も衝撃的なのは、研究者らは、メタフォトニック回路がその場でメタ学習を実行できることを示し、251 倍のモデル圧縮と 136 倍のタスク固有のトレーニング加速によるシングルショット フォトニック学習と表現されるものを実現できることを示しました。付属の概要では、回路の完全なデジタル モデルを使用せずに、このハードウェアがマトリックス設計、多波長計算、および高速メタ学習を実現すると付け加えています。
なぜそれが重要なのか
AI のエネルギー需要は業界で最も差し迫った制約の 1 つであり、光コンピューティングは、電子プロセッサよりもはるかに低い電力で行列乗算 (ニューラル ネットワークの中核演算) を実行する方法として長い間提案されてきました。新興企業や学術グループの光学チップは、すでに優れた推論スループットを実証しています。しかし、トレーニングはデジタルのままです。チップはネットワークを実行しますが、学習はそれをシミュレートする GPU 上で行われます。
実用的な現場トレーニング方法がそのギャップを埋め、フォトニックシステムがハードウェア自体の新しいタスクに適応できるようになります。また、使用前にチップを完全に特性評価して補正する必要がなくなるため、光加速器の導入コストも削減できる可能性があります。著者らは、この研究を「適応的で効率的なインテリジェントフォトニックシステムへの実用的な道筋」を提供するものとして組み立てている。
注意事項
この結果は管理された実験室でのデモンストレーションから得られたものであり、論文の要約では生産準備が整っているとは主張していません。実証済みの行列サイズからフロンティア ニューラル ネットワークの規模までオンチップ トレーニングを拡張することは、測定装置 (合成時間反転ホログラフィー) をコンパクトな大量生産可能なパッケージに統合することと同様、未解決のエンジニアリング課題のままです。実際の展開では、フォトニック システムがドリフトすることが知られている条件である、温度変動やコンポーネントの経年劣化に対する信頼性を証明する必要もあります。
それでも、この出版物は、より優れたフォトニック回路の設計から、少なくとも自身のパラメータを調整するという狭義の意味で、フォトニック回路自体を設計させることへ、この分野における重点の顕著な変化を示している。フォローアップ作業により結果がより大規模に再現される場合、光学 AI ハードウェアのエネルギーに関するケースは大幅に強化されます。
Tiankuang Zhou、Yun Zhao、Shanglong Li、Guocheng Shao、Ruqi Huang、Lu Fang による基礎研究「一般化 in situ 物理的勾配降下による光子ニューロモーフィック学習」は、Nature Computational Science に掲載されました。
---
AIの最新情報をお届けAIの最新ニュース、分析、ブレイクスルーを一箇所で。
AIニュースをもっと読む →
