データセット蒸留

データセットの蒸留とは、大規模な元のデータセットで高い性能を達成できるような小規模な合成データセットを作成することを指します。このアルゴリズムは、大規模な実際のデータセットを入力とし、小規模な合成蒸留データセットを出力し、独立した実際のデータセットでのモデルの性能を評価します。優れた蒸留データセットは、データセットの理解を支援するだけでなく、継続学習、プライバシー保護、ニューラルアーキテクチャ探索などの分野でも広範な応用が期待されています。