AI 换脸蔡英文等百位名人,台湾省网红小玉被捕

上月, 台湾省知名 YouTube 网红「小玉」被正式逮捕,罪名是涉嫌散布猥亵物品与妨害名誉等罪移送新北地检署侦办。

警方公布,小玉等犯罪嫌疑人利用 DeepFake 的 AI 换脸技术,招募会员逾 8000 人,不法获利约 1100 万元新台币(约合人民币 250 万元),换脸受害者超过上百人,均为网络、影视、政界名人。

小玉换脸,小英冷脸

小玉此次被逮捕,是被岛内群众举报在 Telegram 群组内出售换脸视频。在这些 DeepFake 换脸视频中,中国台湾地区领导人蔡英文也在其中。

出生于 1995 年的小玉(本名朱玉宸),毕业于台湾省宜兰县圣母医护管理专科学校,曾是台湾省偶像团体 TPI 的练习生,2016 年在 YouTube 上发布了第一条视频,初期内容正统,多为开箱测评。

后为了迎合青少年受众,画风逐渐无厘头、言辞犀利大胆,拍摄的开箱视频越来越清奇甚至无底线。

小玉的 YouTube 粉丝数高达 120 万,累计播放量近 6 亿次,已经成为台湾省内的一线网红。但在去年四月的一条视频引发严重社会争议后,小玉的账号已经停更数月。

换脸风波中,蔡英文也在社交网站上发文:「科技的运用,是为了创造人类更好的生活,而非用来伤害他人。这些受害者,可能是你我关心的对象,也可能是你我的亲友,我们不能坐视这样的事情发生。」并敦促台湾省法务部门针对 AI 换脸技术更新法律政策。

全球 AI 换脸立法/判例

  • 中国

依据《中华人民共和国民法典》第 1019 条规定:「任何组织或者个人不得以丑化、污损,或者利用技术信息手段伪造等方式侵害他人的肖像权。」(第四编人格权第四章肖像权)

  • 美国

除了美国参议院国土安全和政府事务委员会,近期正在推进一项针对 DeepFake 技术的法案,美国各州已经陆续出台了相关州级别的法律。

得克萨斯州和加利福尼亚州在 2019 年,前后出台了 「禁止在选举期间发布欺骗性视频,干扰选民投票」的法规。

  • 日本

日本尚未出台正式法规限制 DeepFake 类型的内容传播,但在近期判决了日本首例 AI 换脸犯罪案件。

去年,熊本大学二年级的学生林田拓海因为制作与传播 AI 换脸视频被逮捕。林田拓海从 2019 年 12 月到 2020 年 7 月,在自己经营的付费网站上传了数条自制的 2 名女艺人 AI 换脸不雅视频,被涉及艺人的所在公司控告。

在今年 9 月,东京地方法院认定被告林田拓海,因违反《著作权法》与名誉毁损罪, 拘役 2 年(缓刑 3 年)与罚金 100 万日元(约合人民币 5 万余元)。

后记

全球对 AI 技术的应用需求不断增长,随之暴露的安全、隐私问题也日益增多,其中不乏一些情节恶劣、影响深远的犯罪行为。

很多国家和地区在尽快立法遏制技术犯罪,但技术本身具备先发性和隐蔽性,很难对所有犯罪行为及时制止,只能通过事后的刑罚起到惩戒作用。

与此同时,技术犯罪的门槛,也会随着技术更新而不断降低。网红小玉虽然文化程度不高,但能在短时间内组建团队、制作视频、快速传播和获利。

20 年前,P 图还不普及,恶意的 P 图被媒体称为「移花接木」,视作混淆事实的行为。如今,每个人的智能手机、电脑都可以通过软件轻松地修改、美化图片、视频。曾短暂大火的换脸软件 ZAO 也因为一键换脸的功能,而被紧急下架。

技术会推动技术到达民众手中,每一个人都可能拥有潘多拉的盒子。法律制定的仅仅是社会容忍的底线,当道德无法约束行为时,普法和引导民众合理使用技术应当成为当下最迫切的议题。