双方向トランスフォーマーを用いたより良い薬物反応予測モデルへ

近年、GNN（グラフニューラルネットワーク）を基盤とする手法は、薬物反応予測タスクにおいて主流の課題として優れた結果を達成しています。従来のGNN手法では、薬物分子内の原子のみをノードとして使用し、ノード情報の伝播を通じて分子グラフの表現を得ています。一方で、トランスフォーマーを使用する手法はノード情報のみを抽出できます。しかし、薬物分子の共价結合と手性はその薬理特性に大きな影響を与えます。これらの情報は、原子間で形成される化学結合（エッジ）に含まれています。さらに、細胞株ゲノム配列モデリングに用いられるCNN（畳み込みニューラルネットワーク）手法は、シーケンスの局所的な情報を捉えることができても、全体的な情報を捉えることはできません。上記の問題を解決するために、我々はエッジ埋め込み付き分離型二重トランスフォーマー構造（TransEDRP）を提案します。この構造は細胞株ゲノムと薬物それぞれの表現に使用されます。薬物ブランチでは、分子内の化学結合情報を分子グラフのエッジ埋め込みとして符号化し、グラフトランスフォーマーを使用して薬物分子の全体的な構造と生化学的情報を抽出します。細胞株ゲノムブランチでは、マルチヘッドアテンション機構を使用してゲノム配列を全体的に表現します。最後に、薬物とゲノムの両ブランチが異なるモダリティであることを考慮し、トランスフォーマー層と全結合層を通じて両者を融合してIC50値を予測します。広範な実験により示されたように、我々の手法はすべての評価指標において現行の主流的手法よりも優れています。