11日前

階層的スケッチ誘導による同義表現生成

Tom Hosking, Hao Tang, Mirella Lapata
階層的スケッチ誘導による同義表現生成
要約

我々は、明示的な構文スキーマに条件づけて構文の多様性を促進する文の言い換え生成のための生成モデルを提案する。本研究では、高密度な符号化を、粒度を段階的に細かくしていく逐次的な修正を施す離散的潜在変数の列として分解する手法として、階層的精緻化量子化変分自己符号化器(Hierarchical Refinement Quantized Variational Autoencoders, HRQ-VAE)を導入する。このコードの階層構造はエンド・ツー・エンドの訓練により学習され、入力に対する細粒度から粗粒度へと至る情報の階層的表現を実現する。HRQ-VAEを用いて、入力文の構文的構造をこの階層を通過するパスとして符号化することで、テスト時に構文スキーマをより容易に予測することが可能となる。大規模な実験、ならびに人間による評価を実施した結果、HRQ-VAEが入力空間の階層的表現を学習していることが確認され、従来のシステムと比較してより高品質な言い換え文を生成することが示された。

階層的スケッチ誘導による同義表現生成 | 最新論文 | HyperAI超神経