インターベンター：大規模言語モデルのコーディング能力をインタラクティブな修復チェーンで促進する

本論文では、INTERVENOR（インタラクティブコード修復システム：INTERactiVE chaiN Of Repair）について紹介します。このシステムは、人間で観察されるインタラクティブなコード修復プロセスを模倣するもので、コード診断とコード修復の両方を含んでいます。INTERVENORは、大規模言語モデル（LLMs）にコード修復プロセスにおいて異なる役割を果たすように指示し、これらはコード学習者（Code Learner）とコード教師（Code Teacher）として機能します。具体的には、コード学習者は指示に従ってコードを生成または修復する任務を持ち、一方でコード教師はコード学習者に対するガイダンスとして機能する修復チェーン（Chain-of-Repair: CoR）を作成することを担当しています。CoRの生成過程では、コード教師はコード学習者が生成したコードを確認し、コンパイラから受け取ったエラーフィードバックに基づいてどのようにコードのバグに対処すべきかを見直す必要があります。実験結果は、INTERVENORが基準モデルを超えることを示しており、GPT-3.5と比較してコード生成タスクでは約18%、コード翻訳タスクでは約4.3%の改善が見られました。さらに詳細な分析により、CoRがバグの原因を明確に説明し、自然言語で解決策の計画を提示することが有効であることが明らかになりました。コンパイラからのフィードバックにより、INTERVENORは構文エラーとアサーションエラーを正確に特定し、具体的な指示を与えてコードを修復することができます。すべてのデータとソースコードは以下のURLから入手可能です：https://github.com/NEUIR/INTERVENOR