9日前

畳み込み層とバイフォーマーネットワークを、フォワードフォワードおよびバックプロパゲーション学習と統合する

{Zahra Asgari, Parvin Razzaghi, Ali Kianfar}
畳み込み層とバイフォーマーネットワークを、フォワードフォワードおよびバックプロパゲーション学習と統合する
要約

分子性状の正確な予測は、創薬および計算化学において極めて重要であり、有望な化合物の同定を促進し、治療薬開発のスピードを飛躍的に向上させる。従来の機械学習手法は高次元データに対して性能が低下し、手動による特徴工学が必要となる一方、既存の深層学習アプローチは複雑な分子構造を十分に捉えきれない場合があり、この分野には依然として研究のギャップが存在している。本研究では、原始データから複雑な分子表現を直接抽出できるように設計された新規フレームワーク「Deep-CBN」を提案する。これにより、予測精度と計算効率の両面で向上が実現される。本手法は、畳み込みニューラルネットワーク(CNN)とBiFormerアテンション機構を統合し、前向き-前向きアルゴリズム(forward-forward algorithm)と逆伝播(backpropagation)を併用して動作する。モデルの処理は以下の3段階で構成される:(1)特徴学習段階:SMILES文字列から局所的な特徴をCNNにより抽出;(2)アテンション精緻化段階:前向き-前向きアルゴリズムを用いて強化されたBiFormerモジュールにより、グローバルな文脈情報を捉える;(3)予測サブネットワークの最適化段階:逆伝播を用いた微調整。Tox21、BBBP、SIDER、ClinTox、BACE、HIV、MUVといった標準ベンチマークデータセットに対する評価において、Deep-CBNはほぼ完璧に近いROC-AUCスコアを達成し、最先端の手法を顕著に上回った。これらの結果は、本モデルが複雑な分子パターンを効果的に捉える能力を有することを示しており、創薬プロセスの加速に向けた堅牢なツールとしての可能性を示している。

畳み込み層とバイフォーマーネットワークを、フォワードフォワードおよびバックプロパゲーション学習と統合する | 最新論文 | HyperAI超神経