Expertenkomitee für Gesundheit und KI zur Verbesserung sicherer AI-Interaktionen
OpenAI 成立了身心健康与人工智能专家委员会,旨在指导其在打造更安全、有益的 AI 体验方面的持续工作,特别是在 ChatGPT 和 Sora 等产品中实现对用户心理与情绪健康的积极影响。该委员会由八位在心理学、精神病学、人机交互、儿童发展及数字健康领域拥有深厚经验的专家组成,涵盖从青少年心理健康到技术干预策略的广泛视角。委员会的职责包括提供专业建议、提出关键问题,并协助制定适用于各年龄段用户的健康 AI 互动标准。早在今年早些时候,OpenAI 已与部分成员开展非正式合作,例如在设计家长控制功能和制定家长通知机制时,确保在青少年可能面临心理困境时,以关怀且尊重的方式传递信息。随着委员会正式成立,其成员范围进一步扩展,引入更多元的专业背景,尤其关注青少年使用 AI 的独特需求。例如,David Bickham 博士研究青少年社交媒体对心理发展的影响,Mathilde Cerioli 博士专注 AI 与儿童认知情感发展的交叉领域,而 Andrew K. Przybylski 博士则长期探索数字技术对动机与心理健康的长期影响。委员会的参与使 OpenAI 能在产品设计中融入临床洞察,例如在通知机制中调整语气,避免引起青少年抵触,同时有效支持家庭沟通。未来,OpenAI 将与委员会定期举行循环会议,讨论 AI 在敏感场景中的行为准则、保护机制优化及如何通过 ChatGPT 促进用户积极生活。此外,OpenAI 还与全球医生网络合作,联合精神病学、心理学、儿科和危机干预等领域的专家,共同测试模型在真实情境中的表现,确保其行为符合临床实践与伦理标准。这些努力为 ChatGPT 主模型的持续改进提供科学支撑。OpenAI 强调,尽管最终决策权在公司自身,但其始终秉持开放学习态度,积极从专家、医疗界和政策制定者处汲取经验。该举措标志着 AI 发展正从技术性能向“以人为本”的健康影响转型。 行业专家普遍认为,这一举措体现了 AI 企业对社会责任的深化。心理学家和数字健康研究者指出,将多学科专家纳入产品设计流程,有助于避免技术对青少年心理的潜在伤害。同时,这种“预防性设计”模式可为行业树立新标杆。OpenAI 作为全球领先的人工智能公司,正通过系统性合作,推动 AI 从“能用”向“可用、可信、有益”演进。
