デバイス内向け聴覚のためのハイブリッドニューラルネットワーク

デバイス上での指向性聴覚は、特定の方向からの音源を分離しつつ、厳格な人間が感知できない遅延要件を満たす必要があります。神経ネットワークは従来のビームフォーマーに比べて著しく優れた性能を達成できますが、既存のすべてのモデルは計算リソースに制約のあるウェアラブル機器上で低遅延因果推論をサポートする点で不足しています。本稿では、DeepBeamというハイブリッドモデルを提案します。このモデルは従来のビームフォーマーとカスタム軽量神経ネットワークを組み合わせています。前者は後者の計算負荷を軽減し、汎化能力も向上させます。後者はさらにメモリと計算オーバーヘッドを削減してリアルタイムかつ低遅延操作を可能にするように設計されています。我々の評価では、合成データに対して最先端の因果推論モデルと同等の性能を示しながら、モデルサイズを5倍、秒あたりの計算量を4倍、処理時間を5倍削減し、実際のハードウェアデータへの汎化能力も向上していることが確認されました。さらに、当社のリアルタイムハイブリッドモデルは低消費電力向けに設計されたモバイルCPU上で8ミリ秒で動作し、エンドツーエンドの遅延が17.5ミリ秒となっています。