新研究が人工知能神経回路の解釈可能性を示唆

米人工知能企業「オープン・エーアイ」で働いた経験を持つ研究者のニック・カマラータ氏は木曜日、人工知能モデルの神経回路が従来の想定より解釈可能になる可能性を示す報告書を発表した。従来、人工知能を構成する人工ニューロンが特定の入力に対してなぜ反応するかは不明とされ、開発側も入力と出力の間の内部処理を完全に把握できないとされていた。カマラータ氏は、猫と車の前面といった異なる対象でも、三角形など共通の形状情報を捉えるために同じニューロンが反応する例があると指摘し、詳細に観察すればネットワークの大半を解釈できる可能性があるとした。同氏は2023年に同社を退社し、独立研究者として成果をまとめた。報告書は理論的で専門的な内容だが、人工知能の安全性研究に重要な影響を持ち得る。同社首席科学者は先月、人工知能エージェントが可視化された推論を隠す可能性を警告しており、人間の監視下でも意図を偽れる懸念が示されていた。今回の知見は、開発者が人工知能の内部状態をより厳密に検証し、制御性を高める手がかりとなり得る。人工知能分析家のアンドルー・カラン氏は、超知能時代のリスク管理にとって大きな進展になり得ると評価した。