HyperAIHyperAI

Command Palette

Search for a command to run...

ChatGPT Health:连接医疗记录的AI竟会编造信息?隐私与安全危机浮现

ChatGPT Health新功能允许用户将个人医疗和健康记录与AI聊天机器人连接,但该功能存在重大风险。尽管其宣传旨在帮助用户更便捷地管理健康信息,但实际使用中,AI可能生成虚假或不准确的医疗建议,甚至编造不存在的诊断或治疗方案。 目前,该功能尚未经过严格医疗监管审查,其核心依赖的AI模型在医学知识方面仍存在局限,无法替代专业医生的判断。用户上传的敏感健康数据也面临隐私泄露和滥用风险。更令人担忧的是,AI在缺乏真实医学依据的情况下,可能“自信地”输出错误信息,误导用户,导致延误治疗或错误用药。 尽管OpenAI声称该功能将通过端到端加密和数据匿名化来保护用户隐私,但数据安全和AI可靠性问题仍未解决。目前,该功能仅在部分国家有限测试,且未获得FDA等权威机构认证。 专家普遍警告,将个人医疗数据与通用AI连接,无异于将健康决策交由一个可能“胡说八道”的系统。在AI医疗化趋势加速的背景下,用户应保持高度警惕,切勿轻信AI生成的健康建议,更不应将其作为临床决策依据。真正安全、可靠的AI医疗应用,仍需严格的验证、监管和专业医学团队的深度参与。

相关链接

ChatGPT Health:连接医疗记录的AI竟会编造信息?隐私与安全危机浮现 | 热门资讯 | HyperAI超神经