AIリダー、セキュリティ透明性のSAFEガイドライン提案
Open Secure AI Alliance、エージェントAI向けセキュリティ透明性枠組みSAFEをBlack Hatで発表 ラスベガスのBlack Hat 2024にて、Linux Foundation主導のOpen Secure AI Allianceは、エージェント型AIのサイバーセキュリティ透明性を強化する枠組みSAFE(Shared AI Findings Exchange)を正式発表した。加盟は120団体に拡大し、NVIDIAやCisco、CrowdStrike、Red Hat、Amazon、Microsoftらが策定に貢献している。 SAFEはAIのセキュリティイベントやニアミスを経時的に機密収集・分析し、影響を受けた関係者に通知する手続きを規定する。再発する制御不全を特定し、証拠に基づく運用推奨事項を公開することで、生態系全体のリスク低減と集団的防御の加速を目指す。 同盟はSAFEに加え、AIセキュリティスタック全体のオープンツール開発も推進する。アイデンティティ層ではOktaやPalo Alto Networks、Red Hatがエージェントの認証・アクセス制御やガバナンスマッピング実装を提供する。ハーネス層ではAmazonのStrands AgentsやCedar、MicrosoftのPyRITやRAMPARTがエージェントの可観測性と評価を支援する。モデル層ではCiscoのDefenseClawやCrowdStrikeが防御特化型モデルを展開し、UberやPerplexityが実環境での活動追跡・検知ソリューションを提供している。さらにLangChainやVeeamは、中断からの安全な復旧とデータ保護機能のオープン化でレジリエンスを強化している。 同同盟は、セキュリティが多層防御と情報共有によって最大効果を発揮することを前提に、技術の迅速な交換と公開コードの共同監査を促進する。今後は実証環境での検証を並行し、エージェントAI時代における標準的な脅威対応とオープンな防御エコシステムの確立を目指す。
