HyperAIHyperAI

Command Palette

Search for a command to run...

苹果用合成数据改进AI,坚守用户隐私承诺

苹果在AI领域寻求突破,同时坚持保护用户隐私 苹果公司发布了新的技术方案,旨在提升其AI平台Apple Intelligence的性能,同时确保不侵犯用户隐私。这一方案的核心在于使用合成数据和增强的差分隐私技术来训练AI模型。 苹果一直坚持“隐私是一项基本人权”的原则,因此在数据使用方面十分谨慎。近年来,竞争对手如Meta和xAI等公司通过收集用户数据来训练AI模型,取得了显著进展。然而,苹果在这场AI竞赛中表现平平,显示出了在数据收集和模型训练之间的矛盾。苹果现在希望采用新方法,在保护隐私的前提下提升AI性能。 苹果在其周一发布的博文中表示,他们正在开发新技术,这些技术将使苹果能够在不收集用户设备上的真实邮件或短信的情况下,训练其AI模型。具体方法包括生成合成数据,并将其与通过用户自愿参与的Device Analytics计划收集的真实数据样本进行比较。通过这种方式,苹果能够筛选出与真实数据风格和主题相似的合成数据来优化其AI模型。 以邮件总结功能为例,苹果首先会生成大量关于不同主题的合成邮件。这些合成邮件再由参与Device Analytics计划的用户设备与最近的真实邮件样本进行比较。如果合成邮件与真实邮件有相似之处,这种合成邮件便会用于AI训练。这种方法不仅能够提高模型的性能,还能确保用户数据不被苹果直接收集。 此外,苹果已经使用差分隐私技术来改善自家的Genmoji功能,这项技术允许苹果在不追踪用户个人身份信息的情况下,了解用户如何使用产品。现在,苹果计划将这种技术应用于更多Apple Intelligence的功能,如Image Playground、Image Wand等,以进一步提升其AI水平。 AI模型的性能与数据质量密切相关。领先的AI实验室通常使用大量用户数据来训练大型语言模型,使其能够理解广泛的人类兴趣。OpenAI CEO Sam Altman曾指出,数据是提升模型智能的三大核心资源之一。然而,对于以强大的隐私保护作为品牌卖点的苹果来说,如何利用数据显得更为复杂。苹果表示,截至目前,其基本原则确保了不使用用户的私密个人数据或用户互动来训练基础模型。 尽管苹果在数据隐私方面采取了严格措施,但这也给其AI的发展带来了挑战。今年3月,苹果推迟了对AI助手Siri的全面改版,这是苹果首次对其精心设计的产品路线图进行调整。而在1月,苹果因合成新闻摘要功能出现事实错误而暂时停用了这项功能,引发媒体的广泛批评。 苹果希望新的策略能够为其AI发展注入新的动力,帮助公司在保持隐私保护的同时,赶上在数据使用方面较为宽松的竞争对手。 业内人士表示,苹果这一新的数据处理方法不仅展示了其在技术创新方面的领先能力,也体现了公司在数据隐私保护上的坚定承诺。这种平衡方式可能会成为其他科技公司效仿的模板。苹果公司长期以来以隐私保护为核心理念,赢得了用户的高度信任,此次调整有望在不牺牲隐私的前提下,提升其AI产品的用户体验。

相关链接

苹果用合成数据改进AI,坚守用户隐私承诺 | 热门资讯 | HyperAI超神经