HyperAIHyperAI

Command Palette

Search for a command to run...

Console
3 天前

Urania:面向AI使用的差分隐私洞察

Urania:面向AI使用的差分隐私洞察

摘要

我们提出了Urania,这是一种用于生成大语言模型(LLM)聊天机器人交互洞察的新颖框架,该框架在严格的差分隐私(Differential Privacy, DP)保障下运行。该框架采用私有聚类机制,并结合创新的关键词提取方法,包括基于频率、TF-IDF以及由LLM引导的多种策略。通过利用差分隐私工具,如聚类、分区选择和基于直方图的摘要技术,Urania实现了端到端的隐私保护。我们的评估从词汇与语义内容保留、对话对之间的相似性以及基于LLM的指标等多个维度展开,并与一个非私有的、受Clio启发的流水线(Tamkin等,2024)进行对比。此外,我们设计了一种简明的实证隐私评估方法,验证了本DP流水线在隐私鲁棒性方面的显著提升。实验结果表明,该框架能够在严格保护用户隐私的前提下,有效提取具有实际意义的对话洞察,实现了数据效用与隐私保护之间的良好平衡。

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供