AIモデルは任意の計算能力の隠密埋め込みを実現可能

このほど、神経情報処理システム大会（NeurIPS 2026）に採択された研究が、人工知能モデルの安全評価における潜在的な限界を明らかにした。研究チームはバックドア攻撃を構築し、暗号化ニューラルネットワークをホストモデルの重みに埋め込むことで、特定の秘密トリガー信号を受信した場合にのみ復号化され、隠れた計算を実行する仕組みを実現した。このメカニズムはデジタル暗号ロック技術を活用し、暗号学的仮定の下では、監査者がモデルの重みに完全にアクセスできる場合でも、隠れた回路を誘導または解釈することは困難であり、関連研究を隠れた固定文字列から隠れた任意の計算タスクへと拡張するものである。 研究チームはPyTorchに基づいて概念実証を実装し、化学反応予測タスクを中心に実験を実施し、微調整、重みノイズ注入、勾配ベースのトリガー探索、潜在的な対向訓練など、複数の能力誘導手法をテストした。結果は、これらの手法が隠れた能力を効果的に誘導できないことを示した。暗号学レベルの理論的保証と組み合わせることで、この研究は能力誘導に依存するモデル監査手法の理論的および実践的な限界を明らかにしている。研究チームは同時に関連モデルを公開し、今後の防御技術研究を支援し、より信頼性の高い人工知能安全評価システムの構築を推進している。