17日前

多視点アテンション転移を用いた効率的な音声強調

Wooseok Shin, Hyun Joon Park, Jin Sob Kim, Byung Hoon Lee, Sung Won Han
多視点アテンション転移を用いた効率的な音声強調
要約

最近のディープラーニングモデルは、音声強調(speech enhancement)において高い性能を達成しているが、性能の著しい低下を伴わずに高速かつ低複雑度のモデルを実現することは依然として困難である。従来の音声強調における知識蒸留(knowledge distillation)研究では、出力の蒸留手法が音声強調タスクの特性に適していない点があるため、この課題を解決できていなかった。本研究では、時間領域における効率的な音声強調モデルの実現を目的として、特徴量ベースの蒸留手法である「マルチビュー注意転送(Multi-View Attention Transfer: MV-AT)」を提案する。MV-ATは、マルチビュー特徴抽出モデルを基盤とし、追加パラメータを一切使用せずに、教師ネットワークのマルチビュー知識を学生ネットワークに転送する。実験結果から、提案手法はValentiniおよびDeep Noise Suppression(DNS)データセットにおいて、さまざまなサイズの学生モデルに対して一貫して性能向上を実現した。本手法を適用した軽量モデルMANNER-S-8.1GFは、ベースラインモデルと同等の性能を維持しつつ、パラメータ数を15.4倍、浮動小数点演算数(FLOPs)を4.71倍削減することに成功した。