Beta-Rank：不均衡医療画像解析のためのロバストな畳み込みフィルタープルーニング手法

深層ニューラルネットワークはパラメータ数および演算量が多いため、計算リソースが限られたデバイス上にこれらのモデルを実装することは困難である。新たな構造化 pruning（フィルタ削減）手法の開発が進んでも、これらのモデルは「不均衡なデータ」および「データポイント数が限られている」状況に対応できないことが明らかになってきた。本研究では、フィルタの入力・出力およびフィルタ値の特性を統合的に考慮することで、不均衡データセットに対してより優れた性能を発揮する新しいフィルタ削減手法を提案した。本手法の核心は、フィルタの重要性に関するすべての情報が、フィルタの値そのものに反映されているわけではないという点に着目している。むしろ、フィルタを適用した後のデータの変化（変換）が、そのフィルタの重要性を示す指標となると考えた。本研究では、同じ学習条件の下で、ランキング基準のみを変えて3つの手法を比較し、他の論文から報告された14の手法とも比較を行った。その結果、不均衡な医療データセットにおいて、本手法が他の手法よりも顕著に優れた性能を発揮することを実証した。例えば、IDRIDデータセットでは最大58％のFLOPs削減、ISICデータセットでは最大45％のFLOPs削減を実現しつつも、ベースラインモデルと同等（あるいはそれ以上の）の精度を達成した。実世界でのFLOPsおよびパラメータ削減効果を評価するため、スマートフォンアプリを構築し、実機環境で最大79％のメモリ使用量削減および72％の予測時間短縮を実現した。本研究で用いたすべてのコードおよび各モデルの学習パラメータは、https://github.com/mohofar/Beta-Rank にて公開されている。