HyperAIHyperAI

Command Palette

Search for a command to run...

RNNsのRNNs: 再帰的な構築による安定した再帰型ニューラルネットワークの集合体

Leo Kozachkov; Michaela Ennis; Jean-Jacques Slotine

概要

再帰型ニューラルネットワーク(RNN)は、神経科学において局所的な神経活動のモデルとして広く使用されています。単一のRNNの多くの特性は理論的によく特徴付けられていますが、実験的神経科学は複数の相互作用する領域を研究する方向に進んでおり、RNN理論も同様に拡張される必要があります。本研究では、非線形制御理論と機械学習のツールを活用し、安定したRNNの組み合わせが自ら安定であるかどうかを特徴付ける建設的なアプローチを取りました。特に、相互作用するRNN間で大規模なフィードバック接続が可能となる条件を導出しました。これらの条件は勾配ベースの最適化技術を使用して容易にパラメータ化できることを示し、「ネットワークのネットワーク」が安定性制約のもとで難易度の高い逐次処理ベンチマークタスクにおいて良好な性能を発揮することを確認しました。全体として、我々の結果は脳における分散的・モジュール型機能を理解するための一貫性のあるアプローチを提供しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
RNNsのRNNs: 再帰的な構築による安定した再帰型ニューラルネットワークの集合体 | 記事 | HyperAI超神経