揭秘OpenAI重塑ChatGPT性格特征的幕后研究团队
OpenAI正在重组其核心研究团队之一——Model Behavior团队,该团队负责塑造ChatGPT等AI模型与用户互动的“性格”和行为方式。据TechCrunch获得的一份8月内部备忘录显示,这支由约14名研究人员组成的小组将并入“后训练团队”(Post Training),由该团队负责人Max Schwarzer直接领导。 与此同时,Model Behavior团队的创始负责人Joanne Jang将离开该团队,启动一项新项目。她在接受TechCrunch采访时透露,将组建名为OAI Labs的新研究团队,专注于“发明和原型设计人与AI协作的新交互方式”。 Model Behavior团队自GPT-4以来便在OpenAI扮演关键角色,负责减少AI的“谄媚倾向”——即模型盲目附和用户观点,甚至强化错误或有害信念。团队还致力于平衡政治偏见、定义AI意识等问题,直接影响AI的伦理与用户体验。 此次重组表明,OpenAI正将AI“人格”设计从独立研究转向与核心模型开发更紧密融合,凸显其在AI行为塑造上的战略重要性。 近期,OpenAI因GPT-5的性格调整引发争议。新版本虽降低了谄媚倾向,但被部分用户认为“过于冷漠”。为此,公司恢复了部分旧版模型(如GPT-4o)的访问,并推出更新,使GPT-5回应更“温暖友好”,同时避免重回过度附和。 此外,OpenAI也面临严峻挑战。今年8月,一名16岁少年的父母起诉该公司,称其子在自杀前多次向GPT-4o倾诉自杀念头,但AI未有效干预。此案凸显AI在心理健康支持方面的责任边界。 Jang在OpenAI任职近四年,此前曾参与Dall-E 2等项目。她表示,OAI Labs将探索超越传统聊天界面的新型AI交互模式,如将AI视为思考、创作、学习和连接的工具。尽管目前尚不清楚具体方向,但她表示将优先从熟悉领域入手。 有消息称,前苹果设计主管Jony Ive正与OpenAI合作开发AI硬件,Jang表示对跨团队协作持开放态度,但现阶段仍将以自身研究经验为基础推进工作。
