HyperAIHyperAI

Command Palette

Search for a command to run...

OpenAI将遵守特朗普政令,AI模型发布前须审查

OpenAI 日前确认,将参与美国总统特朗普签署的最新人工智能行政令所要求的模型评估机制。根据该行政令,AI 公司需在新模型正式发布前向联邦政府提供相关访问权限,以便政府对模型能力和潜在风险进行评估。 OpenAI 全球事务负责人 George Osborne 在伦敦 SXSW 大会期间接受媒体采访时表示,公司将加入这一自愿性框架。他认为,民主国家政府应当在人工智能技术的使用与部署过程中发挥重要作用。 Osborne 表示,作为开发前沿人工智能模型的企业,OpenAI 一直高度重视安全责任。“我们不会等到政府提出要求才采取行动,而是主动与监管机构沟通,提出如何跟踪和管理 AI 安全与风险问题的建议。这不仅限于美国,也包括全球范围内的合作。” 根据特朗普于本周签署的行政令,参与企业需要在模型发布前约 30 天向政府开放评估渠道,并接受相关基准测试。测试内容将重点评估 AI 模型的高级网络攻击能力以及潜在风险水平,以判断其是否应被认定为需要重点监管的“前沿模型(Frontier Model)”。 对于未来的 AI 监管方向,曾于 2010 年至 2016 年担任英国财政大臣的 Osborne 表示,政府在制定监管政策时需要保持足够的专业性和前瞻性。他建议各国建立具备技术能力的监管机构,同时为未来技术发展预留灵活调整空间,以避免过于僵化的监管框架影响创新。 近年来,随着生成式 AI 能力快速提升,如何在推动技术创新与保障安全之间取得平衡,已成为全球监管机构和科技企业共同关注的核心议题。OpenAI 此次表态,也显示出头部 AI 企业正逐步加强与政府部门在模型安全评估和风险治理方面的合作。

相关链接

OpenAI将遵守特朗普政令,AI模型发布前须审查 | 热门资讯 | HyperAI超神经