HyperAIHyperAI

Command Palette

Search for a command to run...

19 天前
OpenAI
LLM

OpenAI推出锁定模式防范提示词注入攻击

近日,OpenAI正式推出封闭模式,旨在为处理敏感数据的用户与机构提供针对提示词注入攻击的额外防护。该功能通过严格限制部分交互权限来降低数据泄露风险,具体包括禁用实时网页浏览,仅保留缓存内容访问,屏蔽网页图片检索与展示,关闭深度研究及代理模式,同时保留图像生成功能。OpenAI明确指出,启用该模式后,系统仍可能因缓存内容或上传文件中的恶意指令受到提示词注入影响,并非绝对安全。因此,该功能并非面向大众用户,而是专为有严格数据防泄露需求的敏感信息处理者设计。目前,该模式已逐步向自助服务的ChatGPT企业版账户及部分符合条件的个人账户开放。此举标志着OpenAI在提升AI交互安全性与数据隔离方面迈出关键一步,有望为企业级敏感应用场景提供更可控的底层防护机制。

相关链接