HyperAIHyperAI

Command Palette

Search for a command to run...

Console

PrivateXR:説明可能なAIガイド付き微分プライバシーを用いた拡張現実におけるプライバシー攻撃防御

Ripan Kumar Kundu Istiak Ahmed Khaza Anuarul Hoque

Abstract

人工知能(AI)と拡張現実/仮想現実技術(XR)の融合(AI XR)は、多様な分野において革新的な応用が期待されている。しかし、これらのシステムで使用されるデータ(例:眼球追跡データ)の機密性の高さから、悪意ある攻撃者がモデルとデータを活用して、参加者識別攻撃(Membership Inference Attack, MIA)や再識別攻撃(Re-identification Attack, RDA)を通じて個人情報を高確率で推定・漏洩するという重大なプライバシー懸念が生じている。研究者たちは、微分プライバシー(Differential Privacy, DP)を含む多様な手法を提案してこの種のプライバシー攻撃を緩和している。しかしながら、AI XRデータセットには多数の特徴量が含まれており、DPを一様に適用すると、関連性の低い特徴量にも不要なノイズが加えられ、モデルの精度を低下させ、推論時間も延長するため、リアルタイムなXR環境への展開に制限が生じる。こうした課題に鑑み、本研究では、説明可能なAI(Explainable AI, XAI)とDPを組み合わせた新たなプライバシー保護フレームワークを提案する。具体的には、後処理型の説明(post-hoc explanation)を用いてAI XRモデルにおける最も影響力のある特徴量を同定し、推論段階でその特徴量にのみDPを適用する。本手法は、3つの最先端AI XRモデルおよび3つのデータセット(サイバーサイクネス、感情分類、行動分類)を用いて評価された。その結果、本手法はサイバーサイクネス分類タスクにおいて、MIAとRDAの成功確率をそれぞれ最大43%、39%まで低減しつつ、Transformerモデルを用いて最大97%のモデル精度を維持することに成功した。さらに、従来のDPアプローチと比較して、推論時間を最大約2倍高速化した。実用性の検証として、提案手法をHTC VIVE Proヘッドセットにデプロイし、ユーザーがプライバシーレベル(低・中・高)を調整可能なユーザーインターフェース(UI)「PrivateXR」を構築した。このUIを介して、ユーザーはXRゲーム中にリアルタイムでタスク予測を受けつつ、自身のプライバシー保護レベルを柔軟に制御できる。これにより、XR環境におけるユーザーのプライバシーが効果的に保護されることが実証された。


Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

Hyper Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
PrivateXR:説明可能なAIガイド付き微分プライバシーを用いた拡張現実におけるプライバシー攻撃防御 | Papers | HyperAI超神経