换脸技术与明星“一夜成名”?揭秘其曾应用于情色视频的风险

发布时间:浏览:64

老铁们,大家好,相信还有很多朋友对于换脸技术与明星“一夜成名”?揭秘其曾应用于情色视频的风险和的相关问题不太懂,没关系,今天就由我来为大家分享分享换脸技术与明星“一夜成名”?揭秘其曾应用于情色视频的风险以及的问题,文章篇幅可能偏长,希望可以帮助到大家,下面一起来看看吧!

仿佛都在Cosplay

一款名叫ZAO的换脸app火了!

于是各个版本的

“陈坤”“鞠婧祎”“王俊凯”“胡歌”

利用AI技术,ZAO可以在短短几秒内将你照片上的脸替换到影视剧经典片段中,在一些正脸角度,融合效果几乎可以以假乱真。

下载“zao”,手机跳出了30次验证

为了体验这款刷屏APP

在苹果商店输入“ZAO”

竟然出现了两款软件

一款名为“颜技—全民AI视频换脸做演员”

不过需要验证才能下载

一直没有下载成功

没法体验

另一款为“ZAO-逢戏造脸”

介绍中称是一款使用

顶尖AI技术的换脸神器

仅需一张正脸照就能体验新奇玩法

点击下载“ZAO”后,需要手机验证,之后问题出现了,一口气出现了30多次下载验证,明明已经下载成功,后续的下载验证还源源不断跳出来,根本停不下来。

这或许是因为下载太火爆导致的宕机所致。“AI服务器很贵很贵,只希望大家能给五星好评。”

据ZAO官方微博介绍

8月11日放出3000内测名额

把服务器压坏了

这个月(8月份)花700万租的服务器

昨晚已经消耗了1/3

可见其火爆程度

这款App最大的特点是

通过AI人工智能来实现换脸

注册完成后

系统会提示你选择一张图片

很多照片不清晰或者非正脸的照片

都被系统否决的

不允许上传

在选择完照片后,APP还会要求你进行一项特殊的操作——肖像验证。用户需要在摄像头前进行眨眼、扭头、张嘴、低头等三个指示动作,在系统判断你上传的这张照片就是你本人之后,才能进行下一步操作。

这一举动是为了避免该技术被恶意运用,要确保“你”没有拿其他人的照片来恶意AI换脸。

随后,在系统确认后,用户可以在APP中提供的众多模版中选择自己喜欢的,既可以将自己的脸换成经典角色——比如“小李子”“谢耳朵”“绯红女巫”,也可以将自己换脸成偶像的搭档,还可以与好友两人一起进行换脸。

换脸视频制作显示只需要1~10秒

但实际操作发现至少需要30秒时间

经过肖像权验证的视频

同时,用户也可以通过这张软件制作GIF动画表情。而且用户选过一次照片之后,后面制作视频或GIF时不用再选,可一键换脸。每天的换脸次数也有限制,未经验证照片只能使用10次。

隐私权如何保障成疑问,之前类似技术曾用于不当用途

在ZAO的评论中

尽管有人表示软件很好玩

很容易上瘾

但更多的用户担心自己的隐私泄露问题

一位网友就表示:“需要验证手机号,还要直接上传自己的照片,没有注销功能,头像照片也没有清楚功能,感觉隐私泄露的风险非常大。”

还有网友表示,他相册中所有露脸的照片均被zao检测到了,疑似侵犯肖像权。

今年初

B站UP主“换脸哥”发布的

一段94版射雕英雄传视频

原本饰演黄蓉的演员朱茵的脸

被用“deepfakes”技术

替换成了杨幂的脸

从流出的视频和动图看

虽然是用AI合成的

但是整体效果十分逼真

原版朱茵

换脸杨幂

更有甚者,目前AI换脸黑产已经在国内形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。

被指或存在风险

此外,另据企鹅号新文化商业报道称,有用户犀利指出:一家科技公司,录下了你的脸,知道了你的手机号,社交账号,离刷开你的卡有多远。

这一担心不无道理

进入ZAO的操作页面

不仅仅是上传照片那么简单

系统会以“肖像授权”为由

要求用户对准摄像头人脸验证

就如同银行卡验证一样

必须按照指示完成

“抬头、侧脸、张嘴”动作

之后用户必须绑定手机账号

即使ZAO平台本身不将用户数据用作他用,也有可能遭遇黑客入侵,盗取资料。

支付宝回应换脸软件风险

“ZAO”一夜刷爆

引发大众对刷脸支付安全的担忧

对此

@支付宝安全中心 今日午间作出回应

用户评论

あ浅浅の嘚僾

太可怕了!我一直觉得人工智能的发展有点超速,没想到竟然能做到这种程度,“换脸”还能用来做成这样的东西。希望相关部门能够加强监管,防止这些技术被滥用啊。

    有14位网友表示赞同!

坏小子不坏

明星“恋爱”?这纯属炒作吧~ 换脸技术确实很厉害,不过现在的观众的眼睛都毒的不行,真爱看不穿了!

    有7位网友表示赞同!

限量版女汉子

换脸技术发展很快,以前看新闻上说还没这么成熟,没想到现在已经可以连感情都可以做假了。明星还真的需要提高一下自己的抗压能力了。

    有9位网友表示赞同!

隔壁阿不都

其实我觉得这种技术应用也有积极的一面吧,比如用来创作特效视频或是游戏CG都可以非常实用。关键还是要规范使用才能避免负面的后果。

    有12位网友表示赞同!

oО清风挽发oО

这也太危险了吧!如果有一天这些技术被黑心商人利用制作成人影片的话,后果简直不堪设想啊!想想那些明星受害者可真可怜啊!

    有11位网友表示赞同!

杰克

这种技术以前还比较小众,现在越来越普及了,确实需要引起重视。尤其是对于明星来说,更要提高警惕,保护自身的隐私和形象。

    有9位网友表示赞同!

残花为谁悲丶

这让我想起之前看过一部科幻电影,讲的是人工智能取代人类的故事。当时的我是想不通这么先进了的机器会有什么坏心眼,可现在看来这种忧虑确实有道理!

    有20位网友表示赞同!

可儿

换脸技术的确很方便,但是我们也要意识到背后隐藏的风险,尤其是这些技术被滥用于造假或者欺骗的话,后果非常严重啊!

    有6位网友表示赞同!

采姑娘的小蘑菇

换脸和“恋爱”一结合,瞬间就失去了真实性和感性了。这就像是在玩一场毫无意义的游戏,最终的结果只会是一场空虚的闹剧,浪费时间罢了。

    有18位网友表示赞同!

凉月流沐@

现在的技术真的太厉害了,让人不得不佩服的同时也觉得有些不安。万一有一天连我们的脸都被别人掌控了呢?想想都 scary!

    有20位网友表示赞同!

念安я

我觉得明星应该加强安全意识,不要轻易暴露自己的隐私信息。同时,也希望相关部门能够出台更严格的法律来监管这种技术的发展和使用。

    有13位网友表示赞同!

一样剩余

这些换脸视频看起来确实像真的,真怕有一天会被骗了!要提高辨别能力这可太重要了!

    有6位网友表示赞同!

麝香味

看来科技发展的同时,一些伦理问题也需要我们认真思考啊。毕竟,技术的目的是为了造福人类,而不是用来制造虚假和混乱的。

    有19位网友表示赞同!

面瘫脸

换脸技术的确很强大,但也存在很多争议,比如隐私保护、身份验证等等。我们需要在享受科技便利的同时,也要谨慎地看待其潜在的影响。

    有7位网友表示赞同!

别伤我i

以前看过一个新闻,说有一个人利用换脸技术去冒充别人骗钱,害了很多人。真是太可怕了!希望大家都能提高警惕,不被这种技术所欺骗。

    有7位网友表示赞同!

该用户已上天

还是觉得明星的真实爱情更让人羡慕吧~ 换脸视频总感觉是假的,缺少真情实意的部分啊。

    有15位网友表示赞同!

搞搞嗎妹妹

现在科技发展日新月异,什么都有可能发生,但我觉得真实的感情是无法被技术复制的。相信大家都会看穿这个套路!

    有12位网友表示赞同!

▼遗忘那段似水年华

其实,明星的爱情也是私人的,这种换脸技术的炒作只会越描越黑,让事情变得更加复杂和混乱….

    有18位网友表示赞同!

热点资讯