靴子落地:ChatGPT 国内发展或被「拉手刹」

内容一览:深度合成服务在满足用户需求、改进用户体验的同时,也被一些不法人员用于制作、复制、发布、传播违法信息,诋毁、贬损他人名誉、荣誉,仿冒他人身份实施诈骗等违法行为,如今针对这一技术的管理规定终于发布了。

关键词:Deepfake    深度合成   监管条例   

近期,网信中国发布《互联网信息服务深度合成管理规定》,称该规定已经国家互联网信息办公室审议通过,并经工业和信息化部、公安部同意,将自 2023 年 1 月 10 日起施行。

靴子落地,深度合成技术开启查漏补缺

实际上,早在今年 1 月,国家网信办就发布了《互联网信息服务深度合成管理规定(征求意见稿)》,公开征求群众意见,时隔 11 个月,如今靴子终于落地,近期一路高歌猛进的 ChatGPT,在国内发展或被按下暂停键。

本次正式发布的管理规定,进一步明确了深度合成技术的范围及使用规范,涵盖文本、图像、音频、视频等多种模态的相关技术。


附则部分给出了「深度合成技术」的明确定义

除一般规定外,该管理规定还对数据和技术管理规范以及监督检查与法律责任,都做出了更详细的规范和说明,本文将列举部分重点规定。

禁止制作传播虚假新闻消息 

深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。

使用深度合成技术,必须进行实名认证 

深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式,依法对深度合成服务使用者进行真实身份信息认证,不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

涉及多项个人信息,需取得单独同意 

深度合成服务提供者和技术支持者应当加强训练数据管理,采取必要措施保障训练数据安全;训练数据包含个人信息的,应当遵守个人信息保护的有关规定。  

深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。

使用深度合成服务生成或编辑的内容,需添加显著标识 

对于使用深度合成服务生成或者编辑的信息内容,规定应当采取技术措施添加不影响用户使用的标识,并依照法律、行政法规和国家有关规定保存日志信息。

深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:

(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;  

(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;  

(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;  

(四)沉浸式拟真场景等生成或者编辑服务;  

(五)其他具有生成或者显著改变信息内容功能的服务。  

深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。

健全申诉及举报入口,规范流程及反馈时限 

深度合成服务提供者应当设置便捷的用户申诉和公众投诉、举报入口,公布处理流程和反馈时限,及时受理、处理和反馈处理结果。

完整「互联网信息服务深度合成管理规定」。

深度合成技术治理道阻且长 

近年来,深度合成内容的数量呈现爆发式增长,清华大学人工智能研究院曾联合多家机构,发布了《深度合成十大趋势报告(2022)》。

报告中指出,2021 年新发布的深度合成视频的数量,与 2017 年相比,增长达 10 倍以上,涉及影视音乐、科技教育、生活、娱乐、资讯等多个领域。

深度合成内容制作与传播数量高速增长

深度合成内容数量庞大、鉴别难度高,国内外关于建立健全监督管理机制,曾做出多次尝试。

2019 年 11 月,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合发布《网络音视频信息服务管理规定》,明确规定「不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息」。

2019 年 12 月,国家网信办通过并公布了《网络信息内容生态治理规定》,禁止使用深度学习和虚拟现实技术从事任何非法活动。

2020 年 12 月,中共中央印发了《法治社会建设实施纲要(2020-2025 年)》,要求对深度伪造等新技术制定和完善规范管理办法。

此外,美国、欧盟也针对深度合成技术,出台了多部相关法律法规。

2019 年 12 月,美国国会众议院通过「2020 财年国防批准法」,要求政府向立法机构通报涉及跨国、有组织、带有政治目的的 Deepfake 虚假信息行为。

欧盟则公开要求科技巨头们采取措施,加强对 Deepfake 的打击,否则将处以巨额罚款,最高可被罚全球营业额的 6%。

从上线不到一周就被迫下架的 ZAO APP,到真假奥巴马,再到蚂蚁呀嘿,深度合成技术在不断发展,政策法规也需要与时俱进。

以上 4 张奥巴马图像均通过 Deepfake 生成

只有推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,才能促进互联网信息服务健康发展,维护网络空间良好生态。