世間好物不堅牢,看新闻看天下。
做最好的新闻

189全讯网|“ZAO”爆红背后:这项技术让无数人沦为“色情片主角”

人气:4993时间:2020-01-11 17:34:46

189全讯网|“ZAO”爆红背后:这项技术让无数人沦为“色情片主角”

189全讯网,网友们怎么也没想到,自己的脸有一天可以出现在电视剧电影里,还能跟心爱的爱豆演起情侣。

这几日,一款名叫“zao”的app红遍网络。

它是一款ai换脸软件,用户们只需要在app里上传自己的脸,在素材库里寻找心仪的影视素材如《还珠格格》、《金粉世家》等,就能替换掉影视剧里面的人物的脸,还原著名场面,实现心中的幻想。

用户除了跟赵薇、陈坤、新垣结衣等明星同台,还能制造自己的表情包,实现跟好友的脸庞共演等功能。

某段换脸视频

事实上,ai换脸早已不是江湖中的传说。今年年初就有网友将《射雕英雄传》中朱茵的脸替换成了杨幂的脸,引起了热议。

但这次不一样,ai换脸不再是遥不可及的技术,而是实实在在地来到了我们的生活中,满足了每一个普通人都能置身在影视剧中的愿望。

通过ai换脸,每个人都可以是女神、高富帅,也可以变身周星驰、彭于晏。这样的玩法,具有极大的新鲜度和趣味性,也非常适用于社交场景,受到了广大网友的欢迎。

于是乎,“zao”的排名冲到了苹果商店免费榜第二,娱乐榜第一。网友们的过分热情甚至一度造成了服务器的崩溃。

可是很快,大家开始担心,自己上传的人脸会不会被盗用于人脸识别,并发现“zao”的用户协议中,存在不少猫腻。

“zao”的用户协议是这样规定的:

在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予zao及其关联公司以及zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑,以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。

也就是说,在换脸的时候,用户不仅需要被换脸的对象的许可,而且还自动地把肖像权给了app,app具有完全免费、不可撤销、永久的转授权。

很明显,这种条款完全是霸王条款。“zao”一方面规避了明星的肖像权的问题,一方面又擅自决定自己可以使用用户的肖像权,可谓是一石二鸟。

这样一来,如果有影视剧觉得“zao”侵犯了其知识产权,决定诉讼时,“zao”就可以把锅甩给用户,声称是用户没有获得片方的许可就擅自侵权。

更严重的是,用户一旦把自己的肖像权让渡了出去,就会面临各种安全隐患,包括财产安全和人身安全的问题。

想象一下,如果你的“脸”落到了犯罪分子的手中,并被合成在勒索视频中,你的家人就会很轻易地被骗过。

这样的霸王条款,引起了网友的不满。目前,“zao”的微信分享链接已停止访问,原因是“被多人投诉”。

在一片声讨中,“zao”被迫修改了用户协议,删除了用户需授权“zao”“不可撤销、永久、可转授权和可再许可的权利”。

但引起的负面舆论已不可磨灭。有不少用户都紧急销号,以免自己的肖像落于他人手中。

一夜风靡网络,又一夜跌落神坛,这样的“魔幻”经历,相信让“zao”团队十分难以忘怀。

这样的倾覆,关键就在于,它实打实地触及了用户的逆鳞——隐私权,并引发了大众对于ai换脸技术的恐慌。

事实上,ai换脸在国外早已“臭名昭著”。

早在2017年年底,就已经有用户利用deepfakes技术,将盖尔·加朵、斯嘉丽 · 约翰逊、艾玛沃森等女明星的脸与av女优进行替换,制作出了十分逼真的爱情动作片。

对此,女明星们是十分苦恼的。斯嘉丽在接受媒体采访时表示,她对于遍布网络的色情影片很愤怒,但又无能为力。

的确,自己的脸被安在了别人身上,还要接受无数看客的意淫,想想就毛骨悚然。

如果说,女明星被换脸了,还尚有资本去维权。那普通人遭遇了这种事情,则可能身败名裂。这样“新颖”的方式,正在被无数的有心人,秘密运用在报复等操作中。

比如印度记者rana ayyub,她因为揭露了古吉拉特暴乱中的某些黑幕,收到了死亡威胁,以及“色情复仇”。

不法分子利用deepfakes技术,将rana的脸与色情片女主角的脸调换,并将视频放到了社交软件上。

好事不出门,坏事传千里。很快,这些小视频就在网络上大肆传播,甚至连rana的家人都拿着视频来质问她。在rana的社交账号下,也布满了各种不堪入目的骚扰和辱骂。最后,rana因为不堪忍受社会压力,患病住院。

谣言是一件可以杀人的武器。不法分子利用ai换脸视频,给rana施加“荡妇羞辱”,轻轻松松就毁掉了她的人生。可见ai换脸技术,拥有多么可怕的力量。

更可怕的是,这种技术一旦泛滥了,人们再也分不清哪些视频是真,哪些视频是假。曾被认为最具有真实性的视频,再也不能当做证据。

在美国,共和党和民主党已经开始担心,虚假视频会影响美国总统大选。此前,一段美国前总统奥巴马吐槽特朗普是笨蛋的视频走红网络,引起了众人的注意。事后证明,这只是一段换脸的虚假视频。

可见通过ai换脸,不法分子可以任意操控政治人物说出他们想说的话,从而影响政治形势,甚至造成动乱。

“zao”把ai技术带到了大众面前,就如同打开了潘多拉魔盒一样,引发了大众对于技术作恶的讨论。

没错,ai技术的确深刻地改变了人类的生活,造福了人类。但是我们也要看到,ai技术是一把双刃剑,有可能会造成强大而恐怖的破坏。

一方面,ai需要进行大量的训练,这就不可避免地需要大量的数据来作为训练的材料。

这些数据,有可能是我们的声音,也有可能是我们的身份信息。由此带来的隐私风险是不可估量的。

另一方面,更严重的是,ai有可能通过深度学习的方式,一步步威胁到人类的生存。

关于ai对人类社会的影响,电影《黑客帝国》制造了一个很可怕的预言:

在未来,人类被ai控制,终日沉睡着,用脑电波创造了一个虚假的世界。后来,救世主尼奥觉醒,与ai大战一场,以为自己摆脱了ai的控制。殊不知自己还陷在ai的陷阱中,沦为它深度学习的工具。

尽管这属于影视化创作,却也不乏道理可言。

2014年,霍金就曾说过:“我认为人工智能的完全发展会导致人类的终结。一旦经过人类的开发,人工智能将会自行发展,以加速度重新设计自己。由于受到缓慢的生物演化的限制,人类不能与之竞争,最终将会被代替。”

尽管我们在肉眼可见的未来,还无法预估ai的结局到底是什么。但只要科技向善,人心向善,一切都还有挽回的余地。

作者:潘晓飞

北京快乐8下注

相关阅读

上一篇:Windows 10 Spring 2020更新可能预装正式版Chromium Edge
下一篇:鲍威尔:货币政策定位良好 可支持美联储目标