首页 > 新闻 > 齐鲁第一眼 > 山东新闻 > 正文

换脸APP“ZAO”一夜爆火后引争议 上线仅三天便被微信屏蔽

核心提示: 最近,一款换脸APP“ZAO”刷爆朋友圈,用户只需上传一张个人正面清晰照片,就能把自己的脸“安”在明星脸上,当起偶像剧中的男女主角。“

A06_A06_0525

在“ZAO”APP中,可以换脸的情境应有尽有。手机截图

最近,一款换脸APP“ZAO”刷爆朋友圈,用户只需上传一张个人正面清晰照片,就能把自己的脸“安”在明星脸上,当起偶像剧中的男女主角。“ZAO”自8月30日上架以来一夜爆红,但很快陷入隐私泄露等争议之中。上线仅三天,其微信分享链接就被停止访问。

齐鲁晚报·齐鲁壹点 记者 范佳 实习生 单晓萍

换脸情境应有尽有

但制作过程很缓慢

对于女孩们来说,光拍照完P图,就能玩上几小时不挪地儿,更何况变身明星,尝试百变造型和表情,这种诱惑着实不小。

8月31日,齐鲁晚报·齐鲁壹点记者也下载了这两天蹿红的AI换脸APP“ZAO”进行体验。记者发现,在这里,各种大火的剧集、经典电影、唯美MV……可以换脸的情境应有尽有。然而,换脸视频的制作过程很慢,并且经常制作失败,或出现“服务器繁忙”的提醒。本来十几秒就能制作完成的视频,常常卡在95%后就停滞了。

据悉,这款APP自8月30日上线后,便在朋友圈病毒式传播。由于太火爆,服务器满负荷运转,一度需要排队。

名为“ZAO官方助手”的账号在8月30日发微博称:“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。”8月31日,该微博再次吐槽:“服务器现在还是满负荷,心累……”

只需上传或自拍一张个人图片,就能进行AI合成。记者在使用该换脸应用软件的过程中,感觉换脸效果不错,表情生动,有的甚至能以假乱真,每次换脸的新鲜感吸引人想不断换下去。不过,生成视频上会不断浮动“未经肖像权验证,此视频无法分享”的字样。

此前用户协议曾称

使用肖像永久免费

如果未经肖像权验证,一个面孔只能被限制使用10次。记者决定进行验证,验证过程中需要保证充足的光源,需要配合提示做一些动作,如眨眨眼、张开嘴、向左转头等,这些操作令人联想到人脸识别,不禁让人质疑是否安全。

之前,“ZAO”在用户协议称:用户在使用“ZAO”的时候,如果把脸换成自己或其他人的脸,意味着同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。

“完全免费”“永久”等字眼让人心生忐忑。这一条款也引发了网友争议。有网友称:“细思极恐,说不定自己哪天就成情色电影主角了。”还有不少网友喊话“清除数据库”。

记者发现,如今,“ZAO”已经对上述条款进行了修改。在协议开始,增加了一段“特别提示”,称用户上传的短视频及人脸等相关的内容将严格按相关法律法规的规定保留在“ZAO”上。“ZAO”表示,除非为了改善“ZAO”提供的服务或另行取得用户的再次同意,否则“ZAO”不会以任何其他形式或目的使用相关内容。

同时,用户可以依据“ZAO”平台规则撤回或删除相关内容,在用户撤回或删除相关内容后,“ZAO”将依据相关法律法规的规定在服务器上删除。

支付宝方面回应

不会威胁刷脸支付

备受争议的涉及肖像权的条款也有明显更改,原有的上传肖像权可被“ZAO”“完全免费、不可撤销、永久、可转授权和可再许可的权利”等文字被删除。

新浪微博“ZAO官方助手”9月1日做出回应:“我们十分理解大家对隐私问题的担忧。你们提的问题都已收到,考虑不周的地方我们会去改,需要一点时间。”

“ZAO”是否会对人脸支付安全构成威胁?“支付宝安全中心”通过微博回应称:目前,网上各类换脸软件有很多,但不管换得有多逼真,都是无法突破刷脸支付的。支付宝方面称,刷脸支付采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否照片、视频或者软件模拟生成的,能有效避免各种人脸伪造带来的身份冒用情况。

这条微博中还称,在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高了安全性。同时,支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作,开通之后才能进行支付,用户也可以随时关闭。而且,即便出现账户被冒用的极小概率事件,支付宝也会通过保险公司进行全额赔付。

微信分享链接

已经无法访问

9月1日,记者注意到,“ZAO”的微信分享链接已停止访问,点击链接后,页面会显示“网页存在安全风险,被多人投诉,为维护绿色上网环境,已停止访问”。

除了备受关注的隐私安全问题,冷静下来的受众也开始关注“ZAO”暴露出的其他问题,如版权问题。

记者注意到,用户在“ZAO”首页可以刷到大量影视、电影、综艺片段。ZAO在版权声明中称,产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。 

同时,“ZAO”在《用户协议》中规定:在您上传及/或发布用户内容时,您同意或者确保实际权利人已经同意授予“ZAO”及“ZAO”用户全球范围内免费的、可以对用户内容进行部分的修改或编辑(如将短视频中的人脸换成另一个人的人脸等)以及对修改或编辑前后的用户内容进行信息网络传播的权利。

对此,山东新亮律师事务所律师王新亮分析,此款APP是想通过这种方式规避自己的责任,将用户上传素材视为取得实际权利人授权,是不现实的,这只是给自己找了一个规避风险的免责理由。“真正追究起责任来,它也跑不了,这也是它的一个运营风险。”王新亮分析,APP没有对上传素材的授权进行审核,是有过错的,无法免责。

AI换脸是咋做出来的

AI换脸的好玩效果是如何做出来的呢?主要从事计算机视觉、模式识别等领域的研究的山东大学教授张伟介绍,一般而言,传统的技术流程是,先把源视频的动态信息提取出来,再把用户的照片特征和源视频的信息特征进行融合,在生成的过程中既要保证目标照片和源视频每一帧的匹配性,还要保证生成过程中每一帧之间时序上连续性,比如嘴角的动态,要保证运动的连续性。具体实践方法可能还基于一些深度学习的方法,或用一些最新的视觉或记忆学习的方法来实现。

张伟分析,这种技术可以“张冠李戴”,因而给人脸识别带来挑战。人脸识别在操作中,为了防止假体,需要用户做一些眨眼、扭头动作,他认为,如果李四做了动作,再贴上张三的脸,会形成人脸识别的安全漏洞。

齐鲁晚报·齐鲁壹点记者 范佳

【换个姿势看山东-天天豪礼有惊喜-全新界面国际范儿】

齐鲁壹点 最懂山东

齐鲁壹点

责任编辑:白丽