要約
教師なしメタラーニングは、ラベルのないデータから構成されるタスクの分布全体にわたって汎用的な知識を学ぶことを目的とする。この分野における主な課題は、ラベル情報が存在しない状況下で多様なタスクをどのように構成するかである。近年の研究では、事前学習済み表現を用いた擬似ラベル付けや、生成モデルを用いた合成サンプルの作成といったアプローチが提案されている。しかしながら、こうしたタスク構成戦略は、メタラーニングの過程において不変な擬似ラベルに強く依存する点や、表現の品質、あるいは生成されたサンプルの質に依存するという根本的な制約を抱えている。この制約を克服するため、本研究では、少サンプル分類を対象として、シンプルでありながら効果的な教師なしメタラーニングフレームワーク「擬似教師付きコントラスト（Pseudo-supervised Contrast, PsCo）」を提案する。本手法は最近の自己教師学習の研究に着想を得ており、モーメンタムネットワークと過去のバッチを蓄積するキューを用いることで、擬似ラベルの精度を向上させるとともに、段階的に多様なタスクを構成する。広範な実験により、PsCoが様々なドメイン内およびドメイン間の少サンプル分類ベンチマークにおいて、既存の教師なしメタラーニング手法を上回ることを実証した。さらに、PsCoが大規模なベンチマークへ容易にスケーラブルであることを確認した一方で、最近の最先端メタスキームはそのようなスケーラビリティを有していないことを示した。