データフリーキャンブレーション

データフリーキャンブレーションは、大規模な事前学習済みモデルから小さなモデルへ知識を転送する技術で、元の訓練データを使用せずにこれを実現します。この手法の目的は、合成サンプルを生成することで、小さなモデルが大規模モデルの複雑な特徴表現と決定境界を学習し、高い性能を維持しながら計算リソースやストレージ要件を削減することです。この技術はコンピュータビジョン分野において特に重要な応用価値があり、データプライバシーが重要であるか、データ取得が困難なシナリオで活用されます。