HyperAIHyperAI

Command Palette

Search for a command to run...

PrivateXR: 설명 가능한 AI 지도형 차분 비밀유지 기법을 통한 확장현실 환경에서의 프라이버시 공격 방어

Ripan Kumar Kundu Istiak Ahmed Khaza Anuarul Hoque

초록

인공지능(AI)과 확장현실(XR) 기술의 융합(AI XR)은 다양한 분야에서 혁신적인 응용 가능성을 제시하고 있다. 그러나 이러한 시스템에서 사용되는 민감한 데이터(예: 눈동자 추적 데이터)는 면밀한 개인정보 보호 문제를 야기한다. 공격자는 이러한 데이터와 모델을 악용하여 멤버십 추론 공격(MIA) 및 재식별 공격(RDA)을 통해 높은 정확도로 개인 정보를 추론하고 유출할 수 있다. 연구자들은 차등 프라이버시(DP)를 포함한 다양한 기법을 제안하여 이러한 프라이버시 공격을 완화하고자 했으나, AI XR 데이터셋은 일반적으로 수많은 특징을 포함하고 있어, DP를 일률적으로 적용할 경우 관련성이 낮은 특징들에 불필요한 노이즈를 추가하게 되고, 이는 모델 정확도 저하와 추론 시간 증가를 초래하여 실시간 XR 환경에서의 적용을 제한한다. 이러한 문제를 해결하고자, 본 연구에서는 설명 가능한 인공지능(XAI)과 DP 기반 프라이버시 보호 메커니즘을 결합한 새로운 프레임워크를 제안한다. 구체적으로, 후행적 해석(post-hoc explanation) 기법을 활용하여 AI XR 모델에서 가장 영향력 있는 특징을 식별하고, 추론 과정에서 해당 특징에만 선택적으로 DP를 적용한다. 제안된 XAI 기반 DP 접근법은 세 가지 최신 AI XR 모델과 세 가지 데이터셋(사이버스ickness, 정서, 활동 분류)을 대상으로 평가되었으며, 그 결과 사이버스ickness 작업에서 MIA 및 RDA의 성공률이 각각 최대 43%, 39% 감소함을 확인하였다. 동시에 Transformer 기반 모델을 사용하여 모델의 유용성은 최대 97%의 정확도로 유지하였으며, 기존 DP 접근법 대비 추론 시간을 최대 약 2배 향상시켰다. 실용성 검증을 위해, 제안된 XAI 기반 DP AI XR 모델을 HTC VIVE Pro 헤드셋에 배포하고, 사용자가 프라이버시 수준(저, 중, 고)을 조정할 수 있는 사용자 인터페이스(UI)인 PrivateXR을 개발하여, XR 게임 중 실시간 작업 예측을 제공하면서도 사용자의 프라이버시를 효과적으로 보호할 수 있도록 하였다.


AI로 AI 구축

아이디어에서 출시까지 — 무료 AI 코코딩, 즉시 사용 가능한 환경, 최적의 GPU 가격으로 AI 개발을 가속화하세요.

AI 협업 코딩
바로 사용 가능한 GPU
최적의 가격

HyperAI Newsletters

최신 정보 구독하기
한국 시간 매주 월요일 오전 9시 에 이번 주의 최신 업데이트를 메일로 발송합니다
이메일 서비스 제공: MailChimp
PrivateXR: 설명 가능한 AI 지도형 차분 비밀유지 기법을 통한 확장현실 환경에서의 프라이버시 공격 방어 | 문서 | HyperAI초신경