“AI换脸”不能随便玩了这个新规元旦起施行

2019年12月 06日 17:20 | 来源: 扬州晚报-扬州网 | 扬州网官方微博

不少网店专做“换脸”生意

用软件上传自己脸的照片,就能把很多明星换成你的表演。前段时间,朋友圈的“AI换脸”风靡一时,不少人靠着这样的软件变成了杨幂、范冰冰、肖战、吴亦凡等明星,在朋友圈引发病毒式传播。但这项技术给大家带来有趣体验的同时,也引发了人们对隐私、安全等诸多方面的担忧。近日,监管部门终于出手了——《网络音视频信息服务管理规定》正式出炉,将于2020年元旦正式施行。那么,“AI换脸”现状如何?规定会带来哪些影响?

体验

仅需一张照片

就可“演”大片

8月30日,一款名为“ZAO”的换脸软件上线。第二天下午2时,这款软件在苹果应用商店App Store的免费App下载排名中已跃居第二。短短一天时间,朋友圈就已病毒式传播。很多网友感慨,“换脸真好玩”“AI让普通人和明星只有一步之遥”……

昨天,记者在不少网友的微博和朋友圈里,依然能刷到“AI换脸”的视频,不少网友还上传了自己用换脸软件制作的图片和视频。

记者在苹果应用商店中看到,“ZAO”声称只需要一张照片,就可以穿越大片当主角。记者上传了一张自己的照片后,软件要求验证是否为本人照片,通过后便轻松在李呈媛的一个小MV中“串演”了主角。除了五官是记者本人外,其他的包括脸形、身材、衣服、轮廓等都是明星本身。整个生成过程仅2秒左右,换脸后的短片显得比较自然。

新规

“AI换脸”不能随便玩了

近日,国家互联网信息办公室等三部门联合印发了《网络音视频信息服务管理规定》,将从2020年1月1日起施行,要求网络音视频信息服务提供者和使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识;不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。

也就是说,“AI换脸”技术以后不能随便玩了。

买卖

有网店专做“换脸”生意

“换脸”不会弄咋办?记者发现,淘宝网上有诸多卖家可以帮你轻松换脸。淘宝网上最热门的诸如李现、肖战等也都纷纷变成了换脸对象,此外,还有不少卖家卖合影,可以与这些明星轻松合影,根本看不出PS的痕迹。

一位卖家称,自己帮人换脸是用比“ZAO”更高级的原版软件换的,可以以假乱真。而收费更是从5元到100多元不等。更夸张的是,淘宝上还有卖家专门兜售AI换脸教程,只要花个几十块钱,就可以学会更复杂的换脸技术,不仅可以换照片,还可以换视频、换电影主角等,声称简单易学。

担忧

会否侵犯隐私和影响支付安全?

记者在采访中发现,不少年轻人都表示,“AI换脸”很有趣味性,可以当作趣味游戏玩一玩。但也有市民担忧,“此前在贴吧上看到有人兜售AI色情视频。”市民小黄说,如果“AI换脸”被用在不正当用途上,可能会给很多无辜的人带来伤害。昨天,记者在闲鱼和淘宝搜索,暂未发现兜售色情视频的行为。

也有市民对于“AI换脸”技术是否影响支付软件的支付安全产生担忧。市民小孙说,现在他去购物一般都用支付宝人脸识别,如果换脸技术被利用,是否会对支付安全造成影响?

还有市民认为,换脸软件中的隐私规则中明确指出“同意授权软件完全免费不可撤销,永久可使用,可以自行选择使用和传播。”市民认为,这可能会侵犯隐私权和肖像权。大部分市民都认为,新规的出台将加大对于“AI换脸”技术的监管,是一件好事。

支付宝回应

换脸软件无法突破刷脸支付

为此,记者联系到了支付宝工作人员,他表示,目前,网上各类换脸软件有很多,但不管换得有多逼真,都是无法突破刷脸支付的。“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是不是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。

此外,在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高了安全性。同时,支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作,开通之后才能进行支付,用户也可以随时关闭。而且,即便出现账户被冒用的极小概率事件,支付宝也会通过保险公司进行全额赔付。  

相关新闻

涉嫌过度收集用户隐私?

AI换脸软件“ZAO”致歉

针对换脸应用隐私安全等问题的质疑,9月3日,换脸App“ZAO”在官方微博发布声明称,不会存储个人面部生物识别特征信息,不会产生支付风险。

针对舆论质疑,ZAO表示,一直在反思和修正,并就《用户协议》条款引发的争议做了四点说明。ZAO表示,不会存储个人面部生物识别特征信息;“换脸”效果是通过后期技术叠加所实现的虚构图像,并没有采集任何个人生物识别特征,虚构图像能达到肉眼上近似,但并不是用户的真实信息;使用ZAO不会产生支付风险;用户删除信息或注销账号,均会依据相关法律法规的规定删除相应信息,目前有用户看到注销后的缓存信息,会在后续更新版本时修复。

记者陆康洁


责任编辑:

扬州网新闻热线:0514-87863284 扬州网广告热线:0514-82931211

相关阅读:

声明:凡本网注明来源为“扬州网”或“扬州日报”、“扬州晚报”各类新闻﹑信息和各种原创专题资料的版权,均为扬州报业集团及作者或页面内声明的版权人所有。任何媒体、网站或个人未经本网书面授权不得转载、链接、转贴或以其他方式使用;已经通过本网书面授权的,在使用时必须注明上述来源。如本网转载稿涉及版权等问题,请及时与我们联系,以便寄奉稿酬。