17日前

グラフとTransformer特徴の相乗的融合による分子性質予測の高度化

M V Sai Prakash, Siddartha Reddy N, Ganesh Parab, Varun V, Vishal Vaddina, Saisubramaniam Gopalakrishnan
グラフとTransformer特徴の相乗的融合による分子性質予測の高度化
要約

分子性質予測は計算科学に基づくドラッグディスカバリーにおいて重要なタスクである。近年、グラフニューラルネットワーク(GNN)およびトランスフォーマーの進展により、これらの手法は有効かつ有望であることが示されているが、以下の課題を抱えている。トランスフォーマーの自己注意機構は、分子構造の内在的な情報を明示的に考慮していない一方、GNNによる特徴表現のみでは、類似分子を区別するための微細かつ隠れた相互作用や特徴を十分に捉えることができない。こうした課題に対処するために、本研究ではGNNとトランスフォーマーから事前学習された特徴を協調的に統合する新しいアプローチ、SYN-FUSIONを提案する。このアプローチは、分子全体の構造的特性と個々の原子の特徴を両方とも捉える包括的な分子表現を実現する。MoleculeNetベンチマークにおける実験結果から、7つの分類データセットのうち5つ、6つの回帰データセットのうち4つで、従来のモデルを上回る優れた性能が確認された。また、トランスフォーマーとグラフ特徴を組み合わせて共同学習する他のグラフトランスフォーマーモデルと比較した結果、SYN-FUSIONは性能面で同等の水準に達していることが分かった。さらに、損失関数、潜在空間、重み分布といった観点からの包括的な分析により、SYN-FUSIONの有効性が裏付けられた。最後に、アブレーションスタディにより、SYN-FUSIONが個々のモデル構成要素やそれらのアンサンブルを上回る相乗効果を実現していることが明確に示され、分子性質予測において顕著な性能向上が達成されたことが確認された。