HyperAIHyperAI

Command Palette

Search for a command to run...

OCD: 条件付き拡散モデルを用いた過学習の学習

Shahar Lutati; Lior Wolf

概要

私たちは、入力サンプル x に基づいて重みが条件付けられ、x とそのラベル y を用いてベースモデルを微調整した場合に得られる重みと一致するように学習される動的モデルを提案します。この入力サンプルとネットワークの重みとの間のマッピングは、ノイズ除去拡散モデルによって近似されます。私たちが使用する拡散モデルは、ベースモデルの単一レイヤーの変更に焦点を当て、そのレイヤーの入力、活性化状態、および出力に基づいて条件付けられます。拡散モデルは本質的に確率的なため、複数の初期化により異なるネットワークが生成され、アンサンブルが形成され、さらなる改善につながります。実験結果は、本手法が画像分類、3D再構成、表形式データ、音声分離、自然言語処理など幅広い応用範囲を持つことを示しています。コードは https://github.com/ShaharLutatiPersonal/OCD で公開されています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています