HyperAIHyperAI

Command Palette

Search for a command to run...

Auto-Lambda:動的タスク関係の分離

Shikun Liu Stephen James Andrew J. Davison Edward Johns

概要

複数の関連するタスクの構造を理解することで、マルチタスク学習により一つまたはすべてのタスクの一般化能力を向上させることができる。しかし、通常はタスク間の関係を捉えるために、すべてのタスクペアの組み合わせを同時に学習する必要があり、その計算コストは極めて高くなる。本研究では、自動重み付けフレームワークであるAuto-Lambdaを用いてタスク間の関係を学習する。従来の手法とは異なり、タスク間の関係を固定されたものと仮定するのではなく、Auto-Lambdaは勾配に基づくメタ学習フレームワークとして、タスク固有の重みを用いて連続的かつ動的なタスク関係を探索し、メタ損失の定式化を通じて任意のタスク組み合わせを最適化可能である。特に、検証損失が学習過程全体にわたって自動的にタスク重みに影響を与える仕組みを備えている。本フレームワークはコンピュータビジョンおよびロボティクスにおけるマルチタスク学習および補助学習の問題に適用され、各問題およびデータドメインに特化して設計された最適化戦略と比較しても、最先端の性能を達成することを示した。さらに、Auto-Lambdaが興味深い学習行動を発見できることを観察し、マルチタスク学習に関する新たな知見が得られた。コードは https://github.com/lorenmt/auto-lambda にて公開されている。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
Auto-Lambda:動的タスク関係の分離 | 記事 | HyperAI超神経