AI换脸App“ZAO”刷屏引发“盗脸”争议

2019-09-01 07:25:27

来源: 舜网-济南时报

责任编辑:田艳敏

AI换脸App“ZAO”刷屏引发“盗脸”争议

  一张自拍,就可以把多部经典影视剧主角的脸,替换用户自己的脸。这让AI换脸App“ZAO”刷屏朋友圈。

  8月30日晚间,打出“仅需一张照片,出演天下好戏”口号的“ZAO”刷屏朋友圈。大量用户使用这款App,上传自拍照片,将自己“变成”影视片段的主角,并将这些“改头换面”过的视频片段,上传微信朋友圈等社交平台,引发“病毒式”传播。

  8月31日14时,“ZAO”在苹果应用商店App Store的免费App的下载排名中已跃居第二。

  上手零门槛 几秒变主角

  记者试用发现,“ZAO”主要功能包括造视频和造表情,使用时均需要上传人像照片。上传素材时,首先需要通过权限认证。

  在“造表情”功能中,用户上传照片时,App可以自动查找面孔相册里清晰度和角度合适的照片。App说明称,此行为不会上传任何照片数据,并且会进行非公众人物验证和肖像权验证,确保符合相关法规才能使用。

  随后,记者上传了一张照片,并进行视频制作。约6秒钟后,视频生成。

  实际上,“ZAO”的上手门槛极低。“ZAO”提供了许多现成的新老知名影视剧中的片段,用户不需要任何专业技术即可使用。除了视频换脸、分享朋友圈、造表情外,尚无其他功能。

  但“ZAO”官方的目标不止于此。8月30日,“ZAO”的官方微博称:“你们要记得,ZAO的精髓在于加好友玩。过几天你们就会懂。”

  上述官微还介绍,Android用户在应用宝、华为、Oppo、Vivo电子市场都能搜索ZAO下载使用。

  你的脸会被别人盗用吗

  虽然已经形成刷屏效应,但“ZAO”也引发了外界的隐私担忧。

  “ZAO”的用户协议显示:用户在使用“ZAO”的时候,如果把脸换成自己或其他人的脸,意味着同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。

  这一条款在互联网上遭到热议。有网友评论:“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你家人通话了。”

  极棒实验室安全研究员宋宇昊向记者表示,从起初的采集上千张照片、运行代码进行换脸,到现在仅需在手机App上传一张照片就能换脸,换脸变得越来越便利。值得关注的是人脸识别已经成为实名认证的辅助,比如远程开户,对方可以通过眨眼、摇头等动作来判断手机前的你是否是活体,但换脸这项技术让这套逻辑失效了。因为手机前的人也许是盗用了别人的照片对自己进行了换脸。

  极棒实验室研究团队曾攻破过一些人脸门禁系统,在几次攻破中,大部分都看到了原图,这说明对方并没有对个人生物信息脱敏。

  腾讯、英特尔呼吁:让科技向善

  8月31日,2019世界人工智能大会“科技有道,择善而行”论坛上,“ZAO”成为关注焦点。

  腾讯研究院助理院长程明霞提到这一的走红时表示,一方面可以看到人们对AI非常感兴趣,踊跃地上传自己的照片,查看效果;另一方面如果仔细查看用户条约也存在着潜在的风险。她认为应该确保AI的“可知”、“可控”、“可用”、“可靠”。“科技公司应该追求长期价值,日活、月活、估值都是短期的,社会价值才是长期的。”程明霞说。

  英特尔副总裁陈伟称,如果不能做到“可知”、“可控”、“可用”、“可靠”,这样未来可能会被黑产、灰产利用,也会影响到企业的品牌,进而招聘不到优秀的人才,不是良性的循环。

  腾讯优图实验室总经理吴运声称,“我是一个典型的技术人员,做比较具体的事情,但是后来发现应该有向善的价值观。比如现在网上有换脸的技术,deepfake的技术,可以通过技术制造声音、视频,还可以用技术模拟出摄像头的录制,比如你没有到这里,但技术可以把你做到这里。这些让我一直思考技术的准则在哪里,底线在哪里,最后发现科技向善是一个非常重要的价值观层面的事情。”

  紧急修改用户协议新增“删除面孔”功能

  记者注意到,8月31日17点多,“ZAO”修改了其用户协议内容,在用户协议的开头部分增加了“特别提示”,疑似回应网络争议。

  这份提示指出,用户上传的短视频和人脸,将严格按照相关法律法规的规定保留在“ZAO”上。除非为了改善“ZAO”的服务或者另行取得用户的再次同意,“ZAO”不会以任何其他形式或目的使用上述内容。

  之前已经上传过人脸的用户,如何保障自己的权利?反悔了怎么办?“ZAO”也在这份提示中给出了解决方案:用户可以依据“ZAO”的平台规则撤回或删除上述内容,而在用户撤回或删除后,“ZAO”将依据相关法律法规在服务器上予以删除。

  (综合澎湃新闻、新京报、南方都市报等)

原标题:AI换脸App“ZAO”刷屏引发“盗脸”争议

值班主任:田艳敏

    新闻精选

为社区居民育儿养老传经送宝 济南工匠社区公益行第二站走进裕园社区

舜网-济南日报

2019-09-01

因校园内猥亵少女被“高清无码”微通缉 涉案者起诉警方索赔10万被驳回

舜网-济南时报

2019-08-31

山东第一医科大学开学了!泰安校区昨日迎首批新生

齐鲁网

2019-08-31

3个片区将差异化探索创新 建自贸区,山东发112个“大礼包”

舜网-济南时报

2019-08-31

三千多元的5G手机来了 你会跟上“换机潮”吗?

央视网

2019-08-30

新版人民币今日发行 防伪性能提升

人民网

2019-08-30

入院时鼻腔喷血,你们救下的14岁少年,快要出院了

杭州网

2019-08-30

注意!多地出台新规,地铁上这种行为将受处罚

新华网

2019-08-29

儿子出生100天,麦迪娜回应为什么会撞名,原来是这样

北青网

2019-08-29

《老酒馆》遇上《陆战之王》 谁会是下一个“爆款”?

舜网-济南时报

2019-08-29

可怕!常喝清肠茶 “黑”了肠子还易依赖

央广网

2019-08-21

举高手机就没事了?医生教你如何避免“手机脖”

工人日报

2019-08-21

50城建5万5G基站 网络5g时代的到来,会给我们带来哪些影响?

新华网

2019-08-28

肯德基人造肉炸鸡目的是什么?人造肉能阻止全球变暖吗

北晚新视觉

2019-08-28