コーネル大学は、超高速データと無線通信信号を同時に処理し、176ミリワットの電力で75%の精度を達成する「マイクロ波脳」チップを開発しました。
高帯域幅アプリケーションは、目に見えない形で現代社会の構造を根本的に変革し、デジタル経済、公共サービス、産業の高度化など、多様な分野にわたる効率的な運用を実現する「見えないネットワーク」を構築しています。タップひとつで国境を越えたショッピングを楽しんだり、没入型のクラウドゲームを楽しんだりするなど、一見当たり前の日常の体験は高速データセンターの堅牢なサポートに依存しており、高帯域幅こそが効率的な運用の鍵となっています。
しかし、高帯域幅アプリケーションに必要な高性能コンピューティングは、ますます高価になっています。必要なサンプリングレートと処理クロックレートは、半導体の物理的特性と電力制限の両方によって制約されます。その結果、レートが高いほど、消費電力と放熱への負担が増大します。例えば、データセンターで使用されている従来の電子信号処理チェーンでは、信号が損失の多い媒体を通過する際に、正確なタイミングでサンプリングを行う必要があります。その後、複雑な同期回路を用いて伝送を再構築し、整合性を回復することで、次のノードへの正確な伝送を保証します。このプロセスは、電力を大量に消費する大規模な並列処理に依存しており、効率向上を制限する重大なボトルネックとなっています。
ディープラーニング テクノロジーは、高帯域幅アプリケーションに新たな探索方向を提供します。ただし、アナログ コンピューティング モデルとディープラーニングを組み合わせた現在のソリューションは、一般的に、画像、音声、ジェスチャなどの低帯域幅のアプリケーションのみを対象としています。高帯域幅向けに設計されたマイクロ波フォトニックチップが開発されているものの、いくつかの固定データ機能に制限されており、サイズが大きく、電力効率が低いなどの問題があります。
このジレンマを解決するため、コーネル大学の研究チームは、超高速データと無線通信信号を同時に処理できる集積回路であるマイクロ波ニューラルネットワーク（MNN）を提案しました。MNNは、情報量は少ないものの帯域幅が広い入力データの特性を捉えることで、スペクトル成分を処理します。その利点は、メガヘルツ (MHz) 範囲の低速制御のみを必要としながら、数ギガヘルツ (GHz) にわたる信号をプログラム可能な方法で処理できることです。結合マイクロ波振動の強い非線形性を利用することで、計算結果を狭いスペクトルで表現し、電子的に容易に読み出し可能にします。後処理では、線形回帰モデルを用いてこれを2値出力にマッピングできます。
さらに、MNNは比類のない統合能力を誇ります。標準的な相補型金属酸化膜半導体（CMOS）技術を用いて製造されており、チップ面積はわずか0.088 mm²、消費電力は200 mW未満であるため、汎用アナログプロセッサに直接統合できます。
関連の研究成果は、「ブロードバンド計算および通信のための統合マイクロ波ニューラルネットワーク」というタイトルで Nature Electronics に掲載されました。
研究のハイライト:
* 超高速データと無線通信信号を同時に処理できる初の低消費電力集積回路を研究、開発、製造し、従来のデジタル回路の枠組みを打破し、マイクロ波物理の原理を利用してコンピューティングを実現しました。
デジタル クロックに依存する従来のニューラル ネットワークとは異なり、MNN はマイクロ波周波数でのアナログの非線形動作を活用し、数十ギガヘルツでデータ ストリームを処理でき、消費電力は 200 ミリワット未満で、精度は 88% です。
* レーダー追跡、ポータブルスマートデバイス（スマートウォッチなど）、その他のさまざまな分野をカバーする幅広いアプリケーションシナリオ。高帯域幅アプリケーション向けの低消費電力、高性能、軽量のソリューションを提供します。
用紙のアドレス:
公式アカウントをフォローし、「Microwave Neural Network」と返信すると、完全なPDFを入手できます。
AIフロンティアに関するその他の論文:
トレーニングデータ生成: 複数のタスクに合わせてカスタマイズ
デジタルシミュレーションのバックエンドトレーニングにおいて、MNNから出力されるスペクトルデータには、直接のデジタル出力ではなく、元の入力から抽出された情報が含まれています。この目的のため、研究者らは線形回帰モデルを用いて、測定された625個の周波数を縮小された帯域幅内で処理し、これらの特徴を最終出力にマッピングしました。
その後、最適なパラメータ化ビットストリームを得るために、研究者らはパラメータ化ビットストリームをランダムに選択し、実験で実行しました。最終的に、各タスクにおいて検証性能／精度が最も高いオプションを選択しました。以下は、特定のタスクの最適化と評価のためのデータ設定です。
* 線形探索と条件付きアルゴリズムのシミュレーションに関しては、各パラメータ化ビットストリームには、ランダムに生成された500個の32ビットシーケンスのデータセットが含まれています。10分割交差検証では、データセットを10の部分に分割し、9つの部分を学習用、残りの1つの部分を検証用に交互に使用しました。sklearnソフトウェアパッケージの線形サポートベクターマシン（SVM）を使用し、最大反復回数は5,000回、損失関数は2乗ヒンジ、正則化パラメータはC=0.02としました。テストは40個のパラメータ化ビットストリームで実施しました。
* ビット数、線形探索に似ていますが、最大 10,000 回の反復と C のハイパーパラメータ スイープが 0.02 から 0.22 までで、線形探索データセットのラベルを使用して 32 クラス分類タスクを構築します。
* 基本的なビット演算（AND NOT、XOR、NOR）に関しては、線形モデルは、ロジスティック損失とL1正則化強度0.3を用いた確率的勾配降下法によってフィッティングされました。データセットは、ランダムに生成された500個の32ビットシーケンスで構成され、そのうち16個は固定ラベルビットでした。10分割交差検証を用いて、各出力ビットに対してマルチラベル分類を実行し、120個のパラメータ化されたビットストリームでテストを行いました。
* コーディング分類の観点から、RadioML2016.10Aデータセットを使用し、学習セットと検証セットを8:2の比率で分割しました。単層線形モデルはPyTorchでクロスエントロピー損失を用いて学習され、その後AdamW（学習率0.05、重み減衰0.03、バッチサイズ128、減衰係数0.98）を用いて150エポックの最適化が行われました。学習中、データはガウスノイズ（標準偏差0.01）で拡張され、13個のパラメータ化されたビットストリームでテストされました。
MNNレーダーミッション評価において、研究者らはデジタルニューラルネットワークバックエンドを用いて標的の飛行パターンを予測した。各キャプチャは2GHzの広帯域スペクトルを提供した。各シナリオへの入力は(L, S)であり、Lは1000キャプチャ（シナリオをカバーする総時間範囲）、Sはスペクトルサイズである。その後、研究者らはディープラーニングResNetアーキテクチャを用いて、MNN出力スペクトルデータを直接処理した。
ResNetは、2倍のダウンサンプリングプーリング層と、2つの畳み込み層（カーネルサイズ3）を持つ残差分岐で構成されています。畳み込み層と畳み込み層の間には、バッチ正規化、ReLU活性化、ランダムドロップアウト正規化が用いられます。
モデルの学習にあたり、研究者らはビットストリーム検索と、実験出力を用いて学習させたバックエンドニューラルネットワークを組み合わせ、望ましい分類結果を得ました。研究者らは、物体計数タスクにおいて最も高い精度を示したビットストリームを選択し、500の飛行シナリオから実験データを収集して最終モデルを学習しました。バックエンドの学習には、クロスエントロピー損失、バイナリクロスエントロピー損失、および平均二乗誤差損失を用いてモデルを最適化しました。
最後に、一般化性能を向上させるために、研究者らはランダムシフト、ランダムバイアス、ランダムノイズ、ランダムマスキングを含むデータ拡張処理を行った。すべての拡張処理は、各サンプルに対して20%の確率で適用された。
モデルアーキテクチャと手法：非線形システムによる瞬時計算
MNNマイクロチップの全体構造は下図の通りです。超高速データと無線通信信号の両方を処理できる低消費電力・軽量の集積回路として、研究チームはこれを「脳をモデルにしたコンピューティングシステム」と呼んでいます。そのコアは、非線形導波管 (A とマーク) と 3 つの線形導波管 (それぞれ B、C、D とマーク)、ゲイン ユニット (E とマーク)、およびカプラ (F とマーク) で構成されています。
具体的には、MNNは非線形システムです（動作メカニズムについては下図を参照）。ギガヘルツ信号をGSGSG（グランド-信号-グランド-信号-グランド）導波管を通して注入します。2つの重なり合った金属層で構成された小型直交ハイブリッド結合器が、これらの入力信号の電力を個々の導波管に分配します。駆動信号のこれらの小さな部分は導波管で反射され、結合器の出力ポートで加算された後、別のGSGSG導波管セットを通して抽出されます。
その中で、非線形導波管の周波数は入射するマイクロ波駆動信号の振幅と位相に大きく影響されますが、線形導波管は影響を受けず、安定した共振モードを提供します。
入力に敏感な主な発生源は、導波管A内の縦続接続された非線形共振器です。これらの共振器は、非線形コンデンサとインダクタの組み合わせで構成されています。逆並列ダイオードは、多項式非線形性を持つ容量を生成するために使用され、その程度はバイアス電圧とマイクロ波信号強度によって変化します。線形導波管は長さ調整可能な伝送線路です。導波管の全長にわたって設置されたスイッチにより、歪みを生じさせることなくマイクロ波信号の戻り経路の長さを調整できます。
さらに重要なのは、パラメトリック（時間変動）結合は、一対の導波管間に接続された一対のスイッチ（Spar）によって確立されます。これらのスイッチは、N型金属酸化物半導体（NMOS）トランジスタで構成されています。スイッチは、入力データの速度（150 Mbit/s）のわずか100分の1で動作するビットストリームによって制御され、3つ目のGSGSG導波路を介して伝送されます。このオンオフパラメータの結合シーケンスは、ニューラルネットワークのパターンを様々な計算タスクに合わせて動的に再プログラムするための鍵となります。
最後に、高振幅のマイクロ波伝送によって引き起こされる回路の非線形性を維持するために、薄ゲート酸化膜電力増幅器段 NMOS トランジスタを使用したクロスカップルドトランジスタペアを調査して、再生飽和ゲインを提供します。
この設計は、従来の CMOS 発振器、スペクトル分析用の複雑なパルスシャープニング回路、受動的に結合された高品質の共振器を通じて狭帯域コムを生成する設計とは異なります。市販の CMOS テクノロジを活用し、結合導波管を意図的に入力マイクロ波にさらし、共振器内の非線形性と非対称性を活用して、ほぼ瞬時の計算を実現します。
実験のセットアップと結果: 最高の分類精度は88%に達し、消費電力は200mW未満です。
この実験では、研究者たちは、回路を最も基本的な構成要素まで簡素化することが役に立つかもしれないと考えた。したがって、線形導波管を導波管 A の公称振動周波数から大幅に離調させることにより、物理的な回路パラメータの数が削減されます。
MNNにおける非線形ダイナミクスのモデリングにおいて、研究者らは一般化結合モード理論を用いてMNN回路解析を簡略化し、結合モードモデルへと簡略化しました。線形共振器はLCタンク回路に簡略化され、その固有周波数はスイッチを用いて伝送線路長を調整することで変化します。非線形導波路は多項式非線形コンデンサで構成されています。回路内の損失は、時間変動結合を持つ相互結合トランジスタペアによって実現される飽和ゲイン素子によって補償されます。
その後、実験パラメータはさらに簡素化されました。焦点は、非線形分布共振と線形共振器の相互作用にあり、パラメトリック駆動スイッチを調整可能なコンデンサとして表現します。簡略化された回路の非線形ダイナミクスは、非線形共振器と線形共振器間の結合、内部損失、および入力駆動との相互作用を含む、一連の結合モードによって表現されます。これらのダイナミクスは、非線形バイアス電圧の初期条件、マイクロ波駆動、および低速パラメータビットストリームの影響を受けます。
回路シミュレーションとレイアウトについては、研究者らはCadence Virtuoso環境において、GlobalFoundries社の45nm RF SOI（シリコン・オン・インシュレータ）プロセスに基づくトランジスタモデルを用いてCMOSチップの設計とシミュレーションを行いました。寄生抵抗と寄生容量の抽出にはSiemens社のCalibreツールを使用し、導波管、カプラ、伝送線路のレイアウトシミュレーションには2.5D EMX電磁界解析ツールを使用し、高周波性能を正確にモデル化しました。
マイクロ波回路を使用して高速デジタル信号をシミュレートするタスクでは、方形波信号で構成されるギガビット レートのデジタル信号は、本質的に数十ギガヘルツに及ぶスペクトルを持つアナログ信号です。MNN はマイクロ波回路の特性を利用して周波数領域で直接計算を実行できることが示されています。これは、時間領域で動作する従来のデジタルハードウェアとは大きく対照的です。MNNは信号処理において、特定の振動パターンを持つ狭い周波数帯域で出力を行います。これにより、時間領域における信号整合性を厳密に維持する必要がなくなり、入力信号の広い帯域幅から特徴を捉えることができるため、単層デジタルニューラルネットワークの学習に必要な圧縮された特徴の数を削減できます。
下の図は、固定機能のデジタルCMOS回路に依存せずに超高速デジタル演算を行うシミュレーションを示しています。32ビットのビットストリームが150Mbit/sで入力され、非線形共振が高速に応答します。スペクトラムアナライザは出力を記録して平均化し、信頼性の高いフーリエ変換を保証します。演算特性は10～14GHz帯（衛星通信のXバンドおよびKuバンド周波数に相当）に重点を置いています。
結果は、150 Mbit/sの32ビットパラメータビットストリームの内容を調整し、特定のスペクトル特性を抽出することで、8ビットNAND演算などのデジタル論理演算において正しい結果が得られることを示しており、伝送損失のあるケーブルにもかかわらず、最高の測定精度は約85%に達しました。さらに、数百個の論理ゲートで構成されるトータルカウンタ（入力ビットストリーム内の1の数をカウントする回路）は、パラメータ化されたビットストリームを用いてこの動作をシミュレーションし、出力を線形層にマッピングすることで、検証セットで81%の精度を達成しました。これは、等価デジタル回路の複雑さが増しても計算能力が大幅に低下しないことを示しています。
さらに、MNN は 10 Gbit/s のデータ ストリームでビット シーケンス検索を非常に高い精度で実行できることが実証されており、これは従来の通信で使用される高出力最大尤度シーケンス検出 (MLSD) テクノロジの代替手段となります。一方、MNNは検索機能と技術機能を組み合わせることで条件付きアルゴリズムのシミュレーションに成功し、消費電力を200mW未満（176mW）に抑えながら75%の精度を達成しました。
レーダーターゲット検出タスクにおいて、MNNの微細な周波数変化を検知する能力は、広帯域レーダーアプリケーションに非常に適していることが研究者によって発見されました。本研究では、複数の航空機が異なる多角形軌道に沿って飛行する空域シナリオをシミュレートしました。レーダー反射信号を記録し、アナログ電圧波形に変換しました。その後、矩形波を中心周波数で変調し、MNNに入力しました。8～10GHzの周波数帯域における平均出力応答を抽出し、デジタルニューラルネットワークバックエンドを用いて飛行軌道を推定しました。これは下の図に示されています。
500の飛行シナリオをシミュレーションした結果、MNNは長期間にわたって捕捉された周波数変化に対して異なる応答を形成することで飛行パターンを学習し、それによって標的の飛行パターンを特徴づけることができることが分かりました。MNNは、動的な標的の数を予測し、特定の標的の動きを分離し、標的の速度を推定するだけでなく、また、さまざまな多角形の飛行軌跡を認識し、航空機の数が異なるシナリオで高い F1 スコアを達成することもできます。
無線信号分類タスクにおいて、研究者らはMNNの最低周波数信号処理能力をテストし、無線通信符号化方式の識別への応用の可能性を探りました。実験では、11種類の変調方式（デジタル9種類、アナログ2種類）を含むRadioML2016.10Aデータセットを使用しました。様々なベースバンド信号で50MHzの搬送波を変調し、MNNに入力しました。MNNはその感度を利用して、低周波駆動信号の過渡的変化を観測可能な特徴に変換しました。特徴は8～8.5GHzの範囲で抽出され、バックエンドの線形層を学習しました。
結果は、いくつかのパラメータにより、MNN が変調分類タスクで非常に高い精度を達成でき、無線信号分類タスクの精度がデジタル ニューラル ネットワークと一致する 88% に達することができることを示しています。これは、MNN がエッジ コンピューティングにおけるディープラーニング アクセラレータとして重要な役割を果たすことができるだけでなく、モデル サイズを大幅に削減できることを示しています。
ディープラーニングとアナログコンピューティングには大きな可能性がある
冒頭で述べたように、ディープラーニング技術の継続的な発展は、高帯域幅アプリケーションへの新たな道を切り開きました。本研究に先立ち、既に多くの研究機関がこの分野を研究し、数多くの研究成果を発表してきました。これらの成果は、アナログコンピューティングとディープラーニングの統合における継続的な進化と革新のための理論的かつ実践的な基盤を築きました。
例えば、コーネル大学とメリーランド大学のチームが共同で発表した論文「アナログ量子リザーバコンピュータを用いたマイクロ波信号処理」では、超伝導マイクロ波回路を量子リザーバーとして用いた量子非線形ダイナミクスの連続時間シミュレーションこの手法は、アナログマイクロ波入力信号を離散化することなく直接処理することができ、連続変数システムにより量子リザーバーはより広いヒルベルト空間にアクセスすることができます。デジタル量子回路に基づく従来の実験とは異なり、この手法は微弱なアナログマイクロ波信号を直接受信してその特徴を抽出できるため、入力ボトルネックを克服できます。
用紙のアドレス:
https://www.nature.com/articles/s41467-024-51161-8
もう 1 つの例として、オックスフォード大学、ミュンスター大学、エクセター大学のチームが共同で発表した「連続時間データによるフォトニック テンソル コアを使用した高次元処理」というタイトルの研究があります。その中で、連続時間データ表現を使用して空間、波長、無線周波数の3つの自由度を開発し、3次元アレイ入力の行列ベクトル乗算（MVM）計算を実現する方法が提案されています。フォトニックメモリコンピューティングは、電気光学的に制御されるフォトニックテンソルコアと再構成可能な不揮発性相変化材料メモリによって実現されます。システムの並列性は最大100に達し、これは2つの自由度のみを使用する従来の実装よりも2桁高い数値であり、フォトニックメモリコンピューティングに無線周波数の自由度を追加することの実現可能性を実証しています。
用紙のアドレス:
https://www.nature.com/articles/s41566-023-01313-x
コーネル大学が提案した MNN は、高帯域幅のシナリオにおけるアナログ コンピューティングとディープラーニングの統合をさらに促進します。デジタルクロックに依存せず、マイクロ波物理原理を使用して超高速信号処理を実現します。MNNは、従来のデジタル回路の消費電力と帯域幅の限界を克服するだけでなく、複雑なタスクにおけるアナログコンピューティングの可能性も示しています。レーダー軌跡追跡から無線信号分類まで、低消費電力と小型化という利点を持つMNNは、エッジコンピューティング、高速通信などの分野に新たなパラダイムを提供します。
今後、動的パラメータ調整やエンドツーエンドの共同トレーニングなどの技術の発展に伴い、アナログコンピューティングとディープラーニングの統合により、より多くの帯域幅と効率のボトルネックを打破し、超高速データ処理やミリ波通信などの最先端分野へのより広範な応用空間が開拓されると期待されています。2023年から2024年にかけてのAI4S分野の高品質な論文と詳細な解釈記事をワンクリックで入手⬇️
