HyperAIHyperAI

Command Palette

Search for a command to run...

効率的なドメイン汎化のための共通-特異低ランク分解

Vihari Piratla Praneeth Netrapalli Sunita Sarawagi

概要

ドメイン一般化とは、訓練中に見られなかった新しいドメインに一般化するモデルを訓練することを指します。本稿では、CSD(Common Specific Decomposition)を提案します。この手法は、新しいドメインに一般化する共通成分と、訓練ドメインに対して過学習するドメイン固有の成分を同時に学習します。訓練後、ドメイン固有の成分は破棄され、共通成分のみが保持されます。CSDアルゴリズムは非常に単純で、任意のニューラルネットワークアーキテクチャの最終的な線形分類層を変更するだけです。私たちは既存のアプローチを理解するために原理的な分析を行い、CSDの同定結果を提供し、低ランクがドメイン一般化に及ぼす影響について研究しました。実験結果から、CSDはドメイン消去、ドメイン摂動データ拡張、メタラーニングに基づく最新のドメイン一般化手法と同等かそれ以上であることが示されました。さらに、ドメインが解釈可能な回転MNISTでの診断により、CSDが成功裏に共通成分とドメイン固有成分を分離し、より良いドメイン一般化につながるという仮説が確認されました。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
効率的なドメイン汎化のための共通-特異低ランク分解 | 記事 | HyperAI超神経