19日前

ゼロショット分類におけるハイパーディメンショナルコンピューティング

Samuele Ruffino, Geethan Karunaratne, Michael Hersche, Luca Benini, Abu Sebastian, Abbas Rahimi
ゼロショット分類におけるハイパーディメンショナルコンピューティング
要約

ゼロショット学習(Zero-shot Learning, ZSL)に基づく分類とは、モデルが事前に訓練データとして一切見未曾有の新しいクラスに対して入力を分類する能力を指す。この挑戦的なタスクを解決するための代表的なアプローチとして、ZSL分類に含まれる新たなクラスを記述する属性(attribute)の集合という補助的記述子を提供する方法が挙げられる。本研究では、超次元計算(Hyperdimensional Computing, HDC)のアイデアに着想を得て、属性エンコーダ内にシンボル的な分散表現を備えた定常的なバイナリコードブックを用いる手法を提案する。これにより、計算的に単純かつエンドツーエンドで訓練可能なモデルをコンパクトに表現可能となる。本手法を「超次元計算ゼロショット分類器(Hyperdimensional Computing Zero-shot Classifier, HDC-ZSC)」と命名する。HDC-ZSCは、トレーナブルな画像エンコーダ、HDCに基づく属性エンコーダ、および類似度カーネルから構成される。本研究では、HDC-ZSCがまずゼロショット属性抽出タスクに適用できることを示し、その後、アーキテクチャの最小限の変更と最小限の再訓練でゼロショット分類タスクに再利用可能であることを明らかにする。CUB-200データセットにおいて、HDC-ZSCは2660万パラメータという少量の可学習パラメータで、トップ1分類精度63.8%というパレート最適な結果を達成した。他の2つの最先端の非生成的アプローチと比較すると、HDC-ZSCはそれぞれ4.3%および9.9%高い精度を実現している一方で、パラメータ数はそれらの1.85倍および1.72倍以上に及ばない。

ゼロショット分類におけるハイパーディメンショナルコンピューティング | 論文 | HyperAI超神経