之前我们在《《俄罗斯人?假的》里提到了有人会用换脸的技术,在短视频平台设立虚假人设,吸引粉丝,随后带货的事情。
文章评论区很多读者朋友认为,自己很聪明,不会上这种当。
不过换脸技术已经很普遍了,成本很低,上手很快,普通人刷短视频也不会特意去分辨。
换脸的最初版本是2017年12月,一位网名为“deepfakes”的用户在Reddit上传了一部“盖尔·加朵”出演的AV。盖尔·加朵显然并未下海,这作品是利用人工智能技术,将色情片女主角的脸成了这位国际明星。
一开始这种用人工智能换脸的技术是用来恶搞名人的,比如将知名女演员的脸替代成人影片中的女主角,伪造奥巴马和扎克伯格等人的讲话。
这项技术门槛并不高,后来就产生了很多更简易的换脸工具,比如Faceswap、Fakeapp、Myfakeapp等,对硬件要求越来越低,操作建议,只需要不多的素材就能够进行换脸操作,将换脸技术普及了起来。
这样受害的就不只是名人了,还有可能是身边的任何一个人。
像《俄罗斯人?假的》里提到的换脸,在短视频网站上打造虚假人设,已经算是伤害不算太大的骗局了。尽管换脸装出来的“俄罗斯娜娜”短视频平台上有了将近两百万粉丝,但也就是带点货,只要别心情激动买他网店里的东西,那就不会有什么损失。即使买了点东西,应该不会买太多。
更恶劣的则是冒充别人的亲朋好友向人诈骗,诈骗金额一般很大,给人造成的伤害也非常惨重,得知被骗后受害者往往十分悔恨,造成难以消除的心理阴影。
之前的热播剧《猎罪图鉴》中,就有诈骗犯利用AI换脸技术冒充剧中人物的儿子骗取汇款,致使其最终自杀身亡的情节。这段情节就是来源于现实生活中的犯罪案例。
2021年4月,安徽省合肥市警方打掉一个利用换脸技术伪造他人视频的犯罪团伙,就这么一群有的连高中都没读完的社会闲散人员,能把静态照片做成逼真的动态视频。现在的换脸,操作起来相当简单,速度也很快,以至于卖到下游的诈骗犯手里都卖不上价,一个视频才卖2~10块钱。
而下游的诈骗犯则往往成百上千地大批量购买,用以诈骗别人。
至于制作动态视频的原材料,获取来源则多种多样。
明的方面,谁没在朋友圈里或者公共平台上发几张照片或几个视频呢?现在的换脸,就靠这点物料就可以做视频了。
至于一些灰色途径取得的照片等资料,泄露途径就更多了。现在很多场合都要求人脸识别,许多人脸可能就是在这种情况下被泄露出去的。
甚至还有更加详细的信息被泄露,比如安徽合肥警方破获的这起案件中,在嫌疑人的电脑里就有十几个G的公民人脸数据,还是成套的。
所谓一“套”就是身份证正反面照片、手持身份证照片、自拍照等。
在灰产圈子里,这些照片称为“料”,围绕着“料”形成了一个庞大的产业链。这些料被转手倒卖,然后被制成换脸视频,最后出售给下游的诈骗犯进行诈骗。
很遗憾,我们的照片等隐私并没有被好好保护。我们没有受骗,很大程度上真的是运气好。贩卖照片等个人信息已经形成了一个灰色产业链,这让我们的生活处在更多的风险中。很多人的照片等隐私都被泄露过,如果犯罪嫌疑人拿着这些做成的换脸视频。去骗那些想念子女,又不懂*的老年人很有可能会得手。
希望个人隐私保护方面能做的再好一些吧。
10728起
融资事件
1376.66亿元
融资总金额
6510家
企业
1886家
涉及机构
185起
上市事件
1.20万亿元
A股总市值