Anthropic、AIモデルの暗号検証システム開発

Anthropicは、AIの回答がどのモデルによって生成されたかをユーザーが確認しにくいという問題の解決を試みるオープンソースシステム「FlashProve」を公開した。このシステムを使用する場合、モデルの提供者はまず、対応するモデルの重みに対する暗号化された「指紋」を公開し、次に特定の入力と出力に対する証明を生成する。指紋、入力、および回答を保有する者は、モデルの重みにアクセスしたり、モデルを再実行したりすることなく、証明を検証できる。 研究者たちは、この「検証可能な推論」により、サービスプロバイダーがモデルを密かに変更していないかをユーザーが識別できるようになり、「特定のモデルを用いてコードを検査した」といった第三者の主張を検証するためにも利用できると考えている。Anthropicは、外部からの検証と改善のために、技術レポート、プロトコルの説明、およびオープンソースコードを公開した。 しかし、証明の生成にはコストがゼロではない。同社が大規模なオープンソースモデルを用いて実施したテストでは、各証明のサイズは約19MBであり、証明の生成に必要なGPU時間は通常の推論の70〜95倍に達する。一方、検証はGPUを使用しないデバイスでも実行可能だ。Anthropicは、これは段階的な研究成果に過ぎず、FlashProveをClaudeサービスに展開する計画はまだ発表されていないと強調している。この仕組みは、指定されたモデルが該当する出力を生成したかどうかを検証するものであり、回答自体の正しさを保証するものではない。