2ヶ月前

多タスク注意残差ネットワークによる議論マイニング

Andrea Galassi; Marco Lippi; Paolo Torroni
多タスク注意残差ネットワークによる議論マイニング
要約

私たちは残差ネットワークとニューラルアテンションを複数の議論マイニングタスクに適用することを探求しています。本研究では、アテンション、マルチタスク学習を活用し、アンサンブルを使用する残差アーキテクチャを提案します。この提案は、文書や議論の構造に関するいかなる前提も持たずに設計されています。5つの異なるコーパス(ユーザ生成コメント、科学論文、説得的エッセイ)を対象とした広範な実験評価を行いました。結果は、より高い計算負荷やコーパス固有の設計を持つ最先端のアーキテクチャに対して強力な競争相手であり、汎用性、性能精度、およびモデルサイズの削減という観点で興味深い妥協点を示していることを示しています。

多タスク注意残差ネットワークによる議論マイニング | 最新論文 | HyperAI超神経