DARTS-PRIME：正則化とスケジューリングによる制約付き最適化の改善に関する研究—微分可能なNASにおける応用

差分アーキテクチャ探索（DARTS）は、差分緩和に基づく最近のニューラルアーキテクチャ探索（NAS）手法である。その成功を受けて、DARTSフレームワークの一部を分析・改善する多数の変種が近年提案されている。本研究では、この問題を制約付き二段階最適化として捉え、アーキテクチャ重みの更新スケジューリングおよび離散化への正則化を改善した変種であるDARTS-PRIMEを提示し、その分析を行う。我々は、ミニバッチごとのネットワーク情報をもとに動的に更新スケジュールを調整する手法を提案し、アーキテクチャの更新をより情報に基づいたものとする。さらに、離散化の良好な分離を促進するための近接正則化を導入している。複数の分野における実験結果から、DARTS-PRIMEが性能および信頼性の両面で向上し、差分NAS分野における最先端技術と同等の結果を達成することが示された。