HyperAIHyperAI

Command Palette

Search for a command to run...

Console

PrivateXR:通过可解释AI引导的差分隐私防御扩展现实中的隐私攻击

Ripan Kumar Kundu Istiak Ahmed Khaza Anuarul Hoque

Abstract

人工智能与扩展现实技术(AI XR)的融合为多个领域带来了创新应用的可能。然而,这类系统所依赖的数据(如眼动追踪数据)具有高度敏感性,攻击者可利用这些数据和模型,通过成员推断攻击(Membership Inference Attack, MIA)和再识别攻击(Re-identification Attack, RDA)以较高成功率推断并泄露个人隐私信息。尽管已有研究提出多种隐私防护技术,如差分隐私(Differential Privacy, DP),但AI XR数据集通常包含大量特征,若对所有特征统一施加DP,将向无关或低敏感度特征引入不必要的噪声,导致模型准确率下降、推理时间增加,从而限制其在实时XR场景中的部署。针对上述问题,我们提出一种新型框架,结合可解释人工智能(Explainable AI, XAI)与差分隐私(DP)驱动的隐私保护机制,以有效防御隐私攻击。具体而言,我们利用后验解释方法识别AI XR模型中最具影响力的特征,并在推理阶段仅对这些关键特征施加差分隐私保护,实现精准、高效的隐私防护。我们在三个先进的AI XR模型及三个典型数据集(晕动症检测、情绪识别与行为分类)上评估了该XAI引导的DP方法。实验结果表明,该方法在晕动症任务中可将MIA和RDA的攻击成功率分别降低最高达43%和39%,同时在使用Transformer模型时仍能保持高达97%的模型性能。此外,与传统DP方法相比,该方法在推理速度上提升约2倍。为验证其实际应用价值,我们已将该XAI引导的DP AI XR模型部署于HTC VIVE Pro头显设备,并开发了名为PrivateXR的用户界面(UI),用户可动态调节隐私保护等级(如低、中、高),在获得实时任务预测结果的同时,有效保障其在XR游戏过程中的隐私安全。


Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供