HyperAIHyperAI

Command Palette

Search for a command to run...

谷歌暂停部分医疗搜索的AI摘要功能,强调准确性与安全风险

在《卫报》调查发现谷歌AI摘要(AI Overviews)在部分医疗类查询中提供误导性信息后,谷歌已对部分相关问题的AI摘要功能进行下线处理。例如,当用户搜索“肝功能检查的正常范围”时,AI曾给出未考虑年龄、性别、种族等关键因素的数值,可能使用户误判自身健康状况。 据《卫报》报道,目前“肝功能检查正常范围”和“肝血检正常范围”等查询已不再显示AI摘要。但该媒体发现,类似变体如“LFT参考范围”或“LFT检测参考范围”仍可能触发AI生成摘要。记者测试后发现,这些查询在当天上午已不再显示AI摘要,尽管仍可选择以AI模式提问。部分搜索结果的首位为《卫报》关于此次下线的报道。 谷歌发言人回应称,公司不就具体搜索结果的移除进行评论,但表示正持续进行“广泛改进”。发言人同时指出,公司内部医疗团队已审查《卫报》所提案例,认为“在许多情况下,信息本身并不错误,且有高质量网站支持”。 尽管如此,英国肝脏信托(British Liver Trust)政策与传播总监Vanessa Hebditch表示,虽然移除相关摘要“是好消息”,但更深层的问题仍未解决。她强调,谷歌仅针对个别查询关闭AI摘要,属于“治标不治本”,并未真正解决AI摘要在健康领域普遍存在的风险。 去年,谷歌曾宣布推出多项医疗搜索优化功能,包括更精准的AI摘要和专门的健康AI模型。此次事件再次引发对AI在医疗信息传播中可靠性的关注。

相关链接

谷歌暂停部分医疗搜索的AI摘要功能,强调准确性与安全风险 | 热门资讯 | HyperAI超神经