自然言語からコードへの翻訳を目的としたTranXのseq2seqアーキテクチャを検討するにあたり、文法的制約、語彙前処理、入力表現、コピー機構の4つの主要な構成要素の重要性を特定した。これらの要素の影響を調査するため、BERTエンコーダと文法に基づくデコーダを用いる最先端のアーキテクチャを採用した。このデコーダには形式化された定義が提供されている。本論文では、現在の自然言語からコードへのシステムにおいて、語彙置換（lexical substitution）の構成要素の重要性が強調されている。