コンピュータビジョンの分野では、回帰問題を分類タスクとして定式化することがしばしば、より優れた性能をもたらすことが観察されている。本研究では、この奇妙な現象に着目し、交差エントロピー損失を用いた分類が、平均二乗誤差損失を用いた回帰よりも、高エントロピー特徴表現を学習する能力において優れていることを導出することでその理由を明らかにする。この分析に基づき、順序関係を保持しつつ特徴空間のエントロピーを高めるよう促進する「順序エントロピー損失（ordinal entropy loss）」を提案する。合成データおよび実世界の回帰タスクに対する実験により、回帰タスクの性能向上においてエントロピーの増加がいかに重要であるか、またその利点が顕著であることが示された。