HyperAIHyperAI

Command Palette

Search for a command to run...

より良い事前学習と逐次転移学習に基づくニューラル文法誤り訂正システム

Yo Joong Choe* Kyubyong Park* Jiyeon Ham* Yeoil Yoon*

概要

文法誤り訂正は、公開されている並行コーパスが限られているため、低リソースのシーケンス・ツー・シーケンス課題とみなすことができます。この課題に対処するために、まず現実的なノイジング関数を使用して大規模な未注釈コーパスの誤ったバージョンを生成します。生成された並行コーパスはその後、Transformerモデルの事前学習に使用されます。さらに、転移学習を順次適用することで、これらのモデルをテストセットのドメインとスタイルに適応させます。コンテキスト対応型のニューラルスペルチェッカーと組み合わせることで、当システムはACL 2019 BEA共有タスクにおける制約付きおよび低リソーストラックで競争力のある結果を達成しました。再現性のために、当方ではすべてのコードと資料を公開しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています