AI 换脸蔡英文等百位名人，台湾省网红小玉被捕

上月, 台湾省知名 YouTube 网红「小玉」被正式逮捕，罪名是涉嫌散布猥亵物品与妨害名誉等罪移送新北地检署侦办。

警方公布，小玉等犯罪嫌疑人利用 DeepFake 的 AI 换脸技术，招募会员逾 8000 人，不法获利约 1100 万元新台币（约合人民币 250 万元），换脸受害者超过上百人，均为网络、影视、政界名人。

小玉换脸，小英冷脸

小玉此次被逮捕，是被岛内群众举报在 Telegram 群组内出售换脸视频。在这些 DeepFake 换脸视频中，中国台湾地区领导人蔡英文也在其中。

出生于 1995 年的小玉（本名朱玉宸），毕业于台湾省宜兰县圣母医护管理专科学校，曾是台湾省偶像团体 TPI 的练习生，2016 年在 YouTube 上发布了第一条视频，初期内容正统，多为开箱测评。

后为了迎合青少年受众，画风逐渐无厘头、言辞犀利大胆，拍摄的开箱视频越来越清奇甚至无底线。

小玉的 YouTube 粉丝数高达 120 万，累计播放量近 6 亿次，已经成为台湾省内的一线网红。但在去年四月的一条视频引发严重社会争议后，小玉的账号已经停更数月。

换脸风波中，蔡英文也在社交网站上发文：「科技的运用，是为了创造人类更好的生活，而非用来伤害他人。这些受害者，可能是你我关心的对象，也可能是你我的亲友，我们不能坐视这样的事情发生。」并敦促台湾省法务部门针对 AI 换脸技术更新法律政策。

全球 AI 换脸立法/判例

• 中国

依据《中华人民共和国民法典》第 1019 条规定：「任何组织或者个人不得以丑化、污损，或者利用技术信息手段伪造等方式侵害他人的肖像权。」（第四编人格权第四章肖像权）

• 美国

除了美国参议院国土安全和政府事务委员会，近期正在推进一项针对 DeepFake 技术的法案，美国各州已经陆续出台了相关州级别的法律。

得克萨斯州和加利福尼亚州在 2019 年，前后出台了 「禁止在选举期间发布欺骗性视频，干扰选民投票」的法规。

• 日本

日本尚未出台正式法规限制 DeepFake 类型的内容传播，但在近期判决了日本首例 AI 换脸犯罪案件。

去年，熊本大学二年级的学生林田拓海因为制作与传播 AI 换脸视频被逮捕。林田拓海从 2019 年 12 月到 2020 年 7 月，在自己经营的付费网站上传了数条自制的 2 名女艺人 AI 换脸不雅视频，被涉及艺人的所在公司控告。

在今年 9 月，东京地方法院认定被告林田拓海，因违反《著作权法》与名誉毁损罪， 拘役 2 年（缓刑 3 年）与罚金 100 万日元（约合人民币 5 万余元）。‘

后记

全球对 AI 技术的应用需求不断增长，随之暴露的安全、隐私问题也日益增多，其中不乏一些情节恶劣、影响深远的犯罪行为。

很多国家和地区在尽快立法遏制技术犯罪，但技术本身具备先发性和隐蔽性，很难对所有犯罪行为及时制止，只能通过事后的刑罚起到惩戒作用。

与此同时，技术犯罪的门槛，也会随着技术更新而不断降低。网红小玉虽然文化程度不高，但能在短时间内组建团队、制作视频、快速传播和获利。

20 年前，P 图还不普及，恶意的 P 图被媒体称为「移花接木」，视作混淆事实的行为。如今，每个人的智能手机、电脑都可以通过软件轻松地修改、美化图片、视频。曾短暂大火的换脸软件 ZAO 也因为一键换脸的功能，而被紧急下架。

技术会推动技术到达民众手中，每一个人都可能拥有潘多拉的盒子。法律制定的仅仅是社会容忍的底线，当道德无法约束行为时，普法和引导民众合理使用技术应当成为当下最迫切的议题。