HyperAIHyperAI

Command Palette

Search for a command to run...

線形鎖状CRFを正則言語に制約する

Sean Papay Roman Klinger Sebastian Padó

概要

構造予測における大きな課題の一つは、出力構造内の相関関係を適切に表現することである。出力が系列として構造化されている場合、線形鎖状の条件付き確率場(CRF)は、出力内の局所的依存関係を学習できる広く用いられるモデルクラスである。しかし、CRFのマルコフ仮定により、非局所的依存関係を持つ分布を表現することが不可能となり、標準的なCRFはデータの非局所的制約(例えば、出力ラベルに関するグローバルなアリティ制約)を満たすことができない。本研究では、可能な出力構造の空間を正則言語 L\mathcal{L}L として指定することにより、非局所的制約を含む広範な制約を強制可能なCRFの一般化を提示する。得られた正則制約付きCRF(RegCCRF)は、標準CRFと同様の形式的性質を持つが、L\mathcal{L}L に属さないラベル系列には確率ゼロを割り当てる。特に、RegCCRFはトレーニング段階で制約を組み込むことができるのに対し、関連するモデルはデコード段階でのみ制約を強制する。我々は、制約付きトレーニングが制約付きデコードよりも劣ることがないことを理論的に証明し、実験的にも実際の性能向上が顕著に得られることを示した。さらに、セマンティック役割ラベリングのための深層ニューラルモデルにRegCCRFを組み込むことで、標準データセット上で最先端の結果を上回る実用的な利点を示した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
線形鎖状CRFを正則言語に制約する | 記事 | HyperAI超神経