非パラメトリック単峰制約による深層順序分類

我々は深層順序分類の新しい制約最適化定式化を提案します。この定式化では、ラベル分布の一峰性が隣接するラベルのすべてのペアに対する不等式制約を通じて暗黙的に強制されます。c個のラベルに対して(c-1)個の制約に基づいて、当モデルは非パラメトリックであり、従って既存の深層順序分類手法よりも柔軟です。これらの手法とは異なり、当モデルは学習された表現をすべてのラベルに強制される単一かつ特定のパラメトリックモデル（または罰則）に制限しません。したがって、より大きな解空間を探求しつつ、任意的选择と大規模なラベル数への対応を容易にします。当モデルは任意の標準的な分類損失関数や任意の深層アーキテクチャと組み合わせて使用できます。生成される挑戦的な最適化問題に対処するために、我々は強力なロガリズム障壁法の拡張に基づく一連の無制約損失を解きます。これにより競合する制約条件を効果的に処理し、深層ネットワーク用の標準的なSGD（確率的勾配降下法）を適用しながら、計算コストのかかるラグランジュ双対ステップを回避し、罰則法を大幅に上回ることができます。さらに、我々は順序分類における新しい性能指標である「サイドオーダーインデックス」(Sides Order Index, SOI) を提案します。これは分布の一峰性を測定する代理指標として機能します。我々は複数の順序分類タスクに関するベンチマーク公開データセットで最先端手法との包括的な評価と比較を行いました。その結果、当アプローチがラベルの一貫性、分類精度およびスケーラビリティにおいて優れていることが示されました。重要な点は、当モデルを使用してラベルの一貫性を強制しても分類誤差が増加しないことです。これは多くの既存の順序分類手法とは異なります。また、再現可能なPyTorch実装が公開されています。(https://github.com/sbelharbi/unimodal-prob-deep-oc-free-distribution)注：「サイドオーダーインデックス」(Sides Order Index, SOI) という用語は一般的ではないため、原文も括弧内に記載しました。