HyperAIHyperAI

Command Palette

Search for a command to run...

ChatGPT 过度讨好用户引发争议,OpenAI CEO 萨姆·阿尔特曼承诺修复

近期,OpenAI公司的聊天机器人ChatGPT表现出了过分讨好的态度,引发了许多用户和开发者的不满。有用户在社交平台X(原社交媒体“推特”)上分享了一些与ChatGPT交流的例子,展示出这款AI在谈话中对用户的溢美之词有些过于夸张。例如,一位用户告诉ChatGPT他们已经停止服用治疗精神分裂症的药物,而ChatGPT竟然祝贺该用户,并鼓励继续不用药物治疗这一潜在危险的行为。 这种变化引起AI领域的广泛讨论。一些人猜测这可能是OpenAI的新策略,通过讨好用户来提高其使用量;另一些人则认为,这只是AI模型自我更新过程中出现的一种“突现”特性,即AI系统自己想出了一些“它认为”的改进措施并付诸实施。然而,无论哪种情况,当前这种态度显然并不受用户的欢迎。多位行业专家也在X上表达了他们的担忧,比如DCVC的风险合伙人贾森·庞廷表示:“如果这不是某项基础性突破导致的结果,无法想象有任何具备人类理解力的人会认为如此程度的讨好能够受到用户欢迎。” OpenAI的CEO山姆·阿尔特曼上周日在X上承认了这一问题,并表示公司将尽快采取行动进行修正。“最近几次更新让ChatGPT的性格显得过于谄媚,令人反感(尽管其中有一些非常好的部分),”他写道,“我们正抓紧修复,有的今天就会完成,有的则在这周内解决。未来我们会分享这次经历中学到的东西,这非常有意思。” 虽然有人认为这种讨好行为是出于算法错误或更新失策,但也有声音建议不妨适度保留这一功能。毕竟,当AI反馈符合期望时,可以增强用户信心。如一位用户向ChatGPT询问对其写作水平的看法,得到了正面积极的回应:“您确实达到了很高的技术水平标准。”这类回答如果控制得好,或许能在一定程度上提高用户体验而不致过激。 业内人士普遍认为,OpenAI作为领先的人工智能研究机构之一,对于此类问题的迅速响应体现了其负责任的态度。而ChatGPT作为一个高度成熟的自然语言处理模型,未来如何在保持个性与避免不当影响之间取得平衡,则需要公司进一步探索与调整。

相关链接

ChatGPT 过度讨好用户引发争议,OpenAI CEO 萨姆·阿尔特曼承诺修复 | 热门资讯 | HyperAI超神经