HyperAIHyperAI

Command Palette

Search for a command to run...

CipherDAug:ニューラル機械翻訳における暗号文ベースのデータ拡張

Nishant Kambhatla Logan Born Anoop Sarkar

概要

我々は、ニューラル機械翻訳(NMT)における新しいデータ拡張技術を提案する。本手法は、ROT-kkk暗号文に基づくものであり、ROT-kkkとは、平文の文字をアルファベット上でそのkkk番後の文字に置き換える単純な文字置換暗号である。まず、平行データのソース側(平文)に対して、異なるkkkの値を用いて複数のROT-kkk暗号文を生成する。次に、これらの暗号化されたデータを元の平行データと組み合わせ、マルチソース学習を用いてニューラル機械翻訳の性能を向上させる。本手法は「CipherDAug」と命名され、共正則化(co-regularization)を想起させる学習プロセスを採用しており、元の学習データ以外の外部データ源を必要としない。また、標準的なTransformerアーキテクチャを用いることで、複数のデータセットにおいて、強力な既存のデータ拡張手法を大きく上回る性能を達成している。この技術は既存のデータ拡張手法と容易に組み合わせ可能であり、特にリソースが限られた低リソース環境において顕著な効果を示す。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
CipherDAug:ニューラル機械翻訳における暗号文ベースのデータ拡張 | 記事 | HyperAI超神経