実践におけるフロントランクAIリスク管理枠組み：リスク分析技術報告書

人工知能（AI）モデルが急速に進化することによってもたらされる前例のないリスクを理解し、特定するため、本報告書ではこれらの前線リスクについて包括的な評価を行います。前線AIリスク管理フレームワーク（v1.0）（SafeWork-F1-Framework）に含まれるE-T-C分析（展開環境、脅威の発生源、支援能力）を基に、7つの主要なリスク分野において重要なリスクを特定しました。それらは、サイバー攻撃、生物・化学的リスク、説得と操作、制御不能な自律的AI研究開発、戦略的な偽装と陰謀、自己複製、および共謀です。AI法（AI- Law）に従って、これらのリスクを「赤線」（許容できない閾値）と「黄線」（早期警戒指標）を用いて評価し、リスクゾーンを定義しています。具体的には、緑色ゾーン（日常的な展開と継続的なモニタリングにおいて管理可能なリスク）、黄色ゾーン（リスク低減策の強化と制御された展開が必要なリスク）、赤色ゾーン（開発および/または展開の停止が求められるリスク）です。実験結果によると、最近のすべての前線AIモデルは赤色ゾーンを越えていないことが示されています。特に、サイバー攻撃や制御不能なAI研究開発のリスクにおいては、評価対象となったモデルはいずれも黄線を越えていません。自己複製や戦略的な偽装と陰謀については、多くのモデルが緑色ゾーンに位置していますが、一部の推論モデルが黄色ゾーンに含まれています。説得と操作の分野では、多くのモデルが黄色ゾーンに位置しています。これは、それらが人間に対して効果的な影響を与える可能性があるためです。生物・化学的リスクについては、モデルの多くが黄色ゾーンに位置する可能性があるものの、詳細な脅威モデル構築および深層的な評価が今後必要です。本研究は、現在のAI前線リスクに関する我々の理解を反映し、これらの課題に対処するための協力的な行動を呼びかけます。