【原创】“AI换脸”视频不能随便玩了！国内首个监管规定元旦起施行

2019-12-04 01:52

上传自己的“脸”，就能把诸多明星换成你的“表演”——还记着前阵子在朋友圈刷屏的“AI换脸”不？这类技术带来有趣体验的同时，也引发人们对隐私、版权、安全等方面的担忧。近日，监管部门“出手”了。国家互联网信息办公室等三部门联合发布的《网络音视频信息服务管理规定》，将从2020年1月1日起施行。“AI换脸”现状如何？国内首个监管“AI换脸”的规定会带来什么影响？扬子晚报/紫牛新闻记者进行探访。

策划：沈春宁

扬子晚报/紫牛新闻记者李冲徐兢马燕

“杨幂版黄蓉”AI换脸视频一度很流行图源：网络

A．新规出台

“AI换脸”监管新政出台

应有显著标识，建立“辟谣机制”

近日，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》(简称“《规定》”)。国家互联网信息办公室有关负责人就《规定》相关问题回答了记者的提问。

据悉，《规定》出台的背景是为了促进网络音视频信息服务活动健康有序发展的需要。当前，我国网络音乐用户规模已达6.08亿，网络视频用户规模已达7.59亿。但与此同时，也带来了传播违法和不良信息、侵犯人民群众合法权益等风险隐患，特别是随着“深度伪造”等新技术新应用在网络音视频领域的运用，这些风险进一步集聚、放大。因此，亟需出台有针对性的管理规定。

扬子晚报/紫牛新闻记者看到，《规定》中多次提及基于“深度学习”“虚拟现实”等新技术新应用的音视频。《规定》强调，网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识，不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。

《规定》首次提出“辟谣机制”——网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。

《规定》还明确了监管和处罚机制——违反《规定》的，由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理；构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

网信办官网截图

分析认为，《规定》被视为对“AI造假视频”的一次针对性管控。可以预见，随着《规定》出台和施行，滥用“AI换脸”技术或将受到处罚。

B．探访现状

淘宝上的AI视频“换脸”

有的一分钟内收费60元

2017 年底，deepfake 换脸技术出现后，使用 AI 技术“造假”的视频也日渐增多。而且，随着技术的进步，此类视频变得越来越真假难辨，引发人们的担忧。

总体而言，通过大数据和机器学习，AI解构信息后，就能完美地生成他人的声音和形象信息。

今年八九月份，一款名为“ZAO”的App刷屏朋友圈。只需在手机上安装这款App，就可以在视频模版中一键“换脸”。当时扬子晚报/紫牛新闻记者曾下载App，并授权使用照片。体验的感受是：视频中自己的脸，像是介于明星和自己长相的“中间人”。分享给朋友后，他们表示“跟你本人相似度60%-80%”。

但就在“ZAO”流行的同时，其也因暗藏隐私泄露“大坑”，且无法注销的的用户协议条款引发争议。

实际上，在“ZAO”之前，“AI换脸术”也曾风靡过。最火的莫过于“如何让杨幂拥有朱茵的演技？”——今年年初，一段借助“AI换脸”制作的94版《射雕英雄传》流行，黄蓉扮演者朱茵的脸被换成杨幂的，虽然五官不同，但换脸后的表情、动作自然流畅。

12月3日，扬子晚报/紫牛新闻记者在B站搜索“换脸术”，仍有相当多视频。有的是由“ZAO”直接生成，有的是专门做换脸视频的Up主上传。

此外，扬子晚报/紫牛新闻记者从淘宝上搜索“AI换脸”，也能找到大量机器合成的音视频。十几块钱就有商家提供这样的定制服务；自己使用手机APP也可以进行“换脸”制作。有PS“换头换脸”的商铺，只要手持照片，就能换背景，与明星合影，或者将人物的“头”完美“嫁接”到明星身上，不仅能正脸替换，还能将侧脸换成正脸。也有淘宝卖家表示，可以定制AI视频换脸，做成“穿越大片”、形象包装、“收集”明星祝福等。有的一分钟以内视频收费60元。