グラフからテキストへの生成（Graph-to-text generation）は、グラフベースのデータから流暢なテキストを生成することを目指しています。本論文では、最近提案された2つの事前学習言語モデル（Pretrained Language Models, PLMs）を調査し、これらのPLMsに対する異なるタスク適応型事前学習戦略がグラフからテキストへの生成に与える影響を分析します。3つのグラフドメイン：意味表現、Wikipedia知識グラフ（Knowledge Graphs, KGs）、科学的KGsについて研究を行いました。結果として、BARTとT5のPLMsが新たな最先端の成果を達成し、タスク適応型事前学習戦略がそれらの性能をさらに向上させることを示しました。特に、LDC2017T10データセットでBLEUスコア49.72、WebNLGデータセットで59.70、AGENDAデータセットで25.66という新たな最先端のBLEUスコアを報告しており、それぞれ相対的に31.8%、4.5%、42.4%の改善が見られました。詳細な分析において、PLMsがグラフからテキストへのタスクで成功する可能性のある理由を特定しました。その証拠として、入力されるグラフ表現が単純なノードとエッジラベルの集合にまで簡素化されても、真実的事実に関する知識がこれらのモデルの良好なパフォーマンスに寄与していることが示されました。