企業がAIを導入する一方で、新たなセキュリティリスクが深刻化している。AIアシスタントやエージェント、コ・ピロットが業務効率を高める一方で、機密情報の漏洩、コンプライアンス違反、プロンプトインジェクション攻撃といったリスクが広がっている。特に、AIエージェント同士が人間の監視なしに連携・通信する状況は、予期せぬ行動や情報漏洩の原因になり得る。こうした課題に応えるべく、WitnessAIは5800万ドルを調達し、「企業向けAIの信頼性層（confidence layer）」の構築を進めている。 TechCrunchの「Equity」ポッドキャストでは、レベッカ・ベランがボールスティック・ベンチャーズの共同創業者バーマク・メフタと、WitnessAIのCEOリック・カチャと共に、企業が抱える実際の懸念について議論。AIセキュリティ市場は2031年までに8000億～1200億ドル規模に拡大すると予測されている。その背景には、AIの自動化が進む中で、人間の監視が追いつかないリスクの増大がある。特に、複数のAIエージェントが連携して意思決定を行う「AI間コミュニケーション」は、意図しない行動や悪意ある操作の温床となり得る。 企業は、AIの利便性とリスクのバランスを取るため、アクセス制御、プロンプトの検証、行動の可視化といったセキュリティ対策の導入を急務としている。WitnessAIのアプローチは、AIの行動をリアルタイムで監視・検証し、不正な出力やデータ流出を未然に防ぐ仕組み。これにより、企業はAIを安全に活用できる信頼性を確保できるとされる。 AIの進化がビジネスを変える一方で、そのセキュリティの整備は「無視できない課題」として、今後ますます重要性を増す。