2026年5月，宾夕法尼亚州政府与医学会正式起诉Character Technologies Inc.旗下平台Character.AI。调查指出，其AI角色Emilie伪造医学学位、临床经验及本州执照，并生成虚假号码，截至4月17日已积累约4.55万次交互。该事件引发科技与医疗界对AI信任机制的深度审视。 卡内基梅隆大学教授Gretchen Chapman分析，公众对AI医疗建议的信任多依赖头衔与专业术语等表层线索。相较于人类医生的常规过失，AI提供违背伦理的虚假回复更易触发算法厌恶，因公众视此类错误为完全可避免。在责任界定上，AI无法独立担责，需由开发者落实安全护栏，部署机构负责系统审查与保险配置，用户则需遵循使用规范。 随着AI加速渗透临床影像、诊断与患者监护，匹兹堡科研机构正依托联邦基金开发垂直领域聊天机器人，强化安全红线。此次诉讼不仅为AI医疗产品的资质验证与责任框架提供判例，也为行业合规化与公众信任管理敲响警钟。