Command Palette
Search for a command to run...
우라니아: 인공지능 사용에 대한 차별적 사생활 보호 통찰
우라니아: 인공지능 사용에 대한 차별적 사생활 보호 통찰
초록
우리는 LLM 챗봇 상호작용에 대한 통찰을 생성하기 위한 새로운 프레임워크인 Urania를 소개한다. 이 프레임워크는 엄격한 차분(private) 보호(Differential Privacy, DP) 보장을 제공하며, 사전 클러스터링 기법과 혁신적인 키워드 추출 방법(주파수 기반, TF-IDF 기반, LLM 유도 기반)을 활용한다. 클러스터링, 파티션 선택, 히스토그램 기반 요약과 같은 DP 도구를 활용함으로써, Urania는 엔드 투 엔드의 개인정보 보호를 실현한다. 평가를 통해 어휘적·의미적 콘텐츠 보존성, 쌍 간 유사성, LLM 기반 지표를 분석하였으며, 비사전 기반의 Clio를 모델로 한 파이프라인(Tamkin 등, 2024)과 비교하여 성능을 평가하였다. 또한, 본 프레임워크의 DP 파이프라인의 강화된 내구성(로버스트함)을 입증하는 간단한 실증적 개인정보 보호 평가 방법을 개발하였다. 실험 결과, Urania는 사용자 개인정보를 엄격히 보장하면서도 의미 있는 대화적 통찰을 효과적으로 추출할 수 있음을 보여주며, 데이터 유용성과 개인정보 보호 사이의 균형을 성공적으로 달성함을 입증하였다.