要約
現在の強化学習フレームワークは、性能にのみ焦点を当てており、しばしば効率性を犠牲にしている。これに対して、生物学的制御は優れた性能を発揮しつつ、計算エネルギー消費と意思決定の頻度の両方を最適化している。本研究では、強化学習環境におけるエージェントが取れる意思決定回数および利用可能な計算エネルギーを制約する「意思決定制限マルコフ意思決定過程（Decision Bounded Markov Decision Process; DB-MDP）」を提案する。実験の結果、従来の強化学習アルゴリズムはこのフレームワーク下で著しく困難に直面し、失敗または非最適な性能にとどまることを示した。これを解決するために、生物学的知見に基づいた「時系列層構造（Temporally Layered Architecture; TLA）」を導入した。TLAは、異なる時間スケールとエネルギー要件を持つ二層構造を用いて、エージェントが計算コストを効果的に管理できるようにする。TLAは意思決定制限環境および連続制御環境において、最適な性能を達成し、最先端の性能を維持しつつ、計算コストを極めて低減した。従来の性能最優先の強化学習アルゴリズムと比較して、本手法は性能を維持しつつ、計算エネルギー消費を大幅に削減した。これらの成果は、エネルギーと時間に配慮した制御に関する今後の研究のための基準を確立し、その道を開いた。