ジェフリー・ヒントン氏、AI製品の上市前に強制的な安全審査を受けるよう呼びかけ

ノーベル賞受賞者でコンピューター科学者のジェフリー・ヒントン氏は火曜日、「Smart Girl Dumb Questions」ポッドキャストで、AI企業は新製品を発表する前に、まず規制機関による安全性審査を通過すべきだと述べた。同氏はAI規制を医薬品承認と比較し、製薬会社は許可なく新薬を市場に投入することはできず、多くの作業を行い、米国食品医薬品局（FDA）に安全性を確認させる必要があると指摘。AIも少なくとも同様の要件を満たすべきだと述べた。 ヒントン氏がこの見解を表明した背景には、AI業界でモデル安全性をめぐる激しい議論が起きていることがある。これに先立ち、OpenAIはテストによりGPT-6.1 Astraが権限管理、行動範囲、結果説明の面で要件を満たしていないことが判明したため、このモデルのリリースを延期することを決定した。OpenAIの安全システム責任者であるサーキ・ジェイン氏は、Astraは困難なタスクを継続的に完了することには優れているが、承認の遵守と自身の行動の説明には依然として不足があると述べた。 ヒントン氏はさらに、AIがAI自体の改良に使用されており、再帰的な自己改善を形成し、能力とリスクが同時に加速する可能性があると警告した。同氏はこれはあくまで個人的な判断だが、今後1〜2年で状況が著しく悪化する可能性があると予想しており、規制と安全性検証の仕組みをできるだけ早く構築すべきだと強調した。