17日前
TinyTracker:眼動推定向け超高速・超低消費電力エッジビジョンセンサ
Pietro Bonazzi, Thomas Ruegg, Sizhen Bian, Yawei Li, Michele Magno

要約
インテリジェントエッジビジョンタスクは、通常、エッジプラットフォームに大きな計算負荷をかけるため、電力効率およびレイテンシ効率を確保するという重要な課題に直面している。本研究では、ソニー社の「AI in sensor」ビジョンプラットフォームであるIMX500を活用し、超高速かつ超低消費電力なエンドツーエンドのエッジビジョンアプリケーションの実現を試みた。本研究では、視線推定を事例として、IMX500をGoogle Coral Dev MicroやソニーSpresenseといった他のエッジプラットフォームと比較評価した。また、本研究で対象とするエッジビジョンシステムの性能を最大限に引き出すことを目的として、2D視線推定向けに高度に効率化された完全量子化モデル「TinyTracker」を提案する。TinyTrackerは、iTracker [1] と比較してモデルサイズを41倍小さく(600KB)しつつ、視線推定精度の低下を最小限に抑える(完全量子化時でも最大0.16cmの誤差)。TinyTrackerをソニーIMX500ビジョンセンサにデプロイした場合、エンドツーエンドのレイテンシは約19msを達成した。カメラがピクセルを読み取り、処理し、アクセラレータに送信するのに約17.9msを要し、ネットワークの推論時間は0.86ms、センサから結果を取得するための追加時間は0.24msである。エンドツーエンドシステム全体のエネルギー消費は4.9mJであり、そのうち推論に要するエネルギーは0.06mJにとどまる。エンドツーエンドの評価結果から、IMX500はCoralMicroより1.7倍高速(19ms対34.4ms)であり、7倍の電力効率を達成した(4.9mJ対34.2mJ)。