生成AIの普及に伴い、不法な画像生成を目的としたモデル改ざんが深刻化している。特に米国では、AI生成児童ポルノ（CSAM）の通報件数が2024年の6万7千件から2025年までに150万件超へと急増している。従来の安全評価手法では、モデルへのプロンプト注入による出力検査が主流だが、CSAMの生成自体が法律で禁止されているため実用的でなかった。この課題に対し、マサチューセッツ工科大学（MIT）のVinith Suriyakumar氏らと児童安全非営利団体Thornは、モデルを出力することなく内部構造を分析し、有害画像生成能力を持つモデルを特定する新しい監査手法を開発した。 本研究の核心は、低ランク適応（LoRA）によるモデル微調整プロセスで生じる内部パラメータの変化を検証することにある。手法は「ガウスプロービング」と呼ばれ、ランダムなデータポイントをモデルの複数層に入力し、内部表現がどのように変形・平均化されるかを計測する。このプロセスでモデルは最終的な画像を生成せず、代わりにLoRAアダプターの改変パターンが有害コンテンツの学習を示す強力なシグナルとして現れる。実験では、CSAM生成用に特化されたモデル変種を100％の精度で正確に識別することに成功した。 同手法の利点は、法的制約を超え、スケーラビリティと実用性を兼ね備えている点にある。従来の人間による出力検査は心理的負荷が高く自動化が困難だが、本手法は計算コストが比較的低く、毎月公開される数千のモデル変種を効率的にスクリーニング可能だ。また、悪意のある改ざんを検知されないようモデルの内部構造を慎重に調整することは技術的に容易ではないため、堅牢性も高い。MITのEECS専攻であるSuriyakumar氏とWilson准教授、Ghassemi准教授、およびThorn、ボストン大学研究者らによる共同研究は、国際機械学習会議（ICML）の関連ワークショップで公開される予定である。 本技術は、オープンソースモデルをホスティングするプラットフォームや法執行機関に対して、有害なモデルの事前検知・削除を可能にする新たな基盤となる。研究者らは、より大規模なモデルバリエーションでの検証や、微調整前のベースモデルに対する有害機能の探査への応用を将来的に計画している。AI安全対策の重大な空白を埋めるこの進歩は、世界中の児童保護に関する実質的な解決策へとつながる可能性を秘めている。