AI不仅能替你上学，帮你写作业，甚至还能为你领笔“补助金”回来——不过，前提是你得先教它怎么骗过活人。
这魔幻现实的一幕正在美国社区大学上演：诈骗集团用ChatGPT等等AI工具批量生成学生身份，专门盗取联邦和州政府的助学补贴。
这些“赛博学生”比人类更善于“卖惨”，无家可归学生和寄养青年的身份伪装帮助他们更快通过申请。课堂表现更堪称模范，不仅能抢课占位，出勤率甚至比真学霸还高，还能准时交作业。
魔幻的背后，是技术与人性的博弈。YouTube上，甚至有人发布“教学”视频，展示了自动化程序如何绕过Contra Costa College的入学审核系统。
这些“赛博学生”已经帮助诈骗集团收割了数百万美金。根据CalMatters，2022年6月，教育部对洛杉矶海港学院（Los Angeles Harbor College）和西洛杉矶学院（West Los Angeles College）一个诈骗集团展开调查，该集团在过去四年中利用至少57人的身份窃取超过110万美元联邦援助。洛杉矶城市学院（Los Angeles City College）另一诈骗案可能涉及超过100万美元，盗用70人身分。
校方也不得不为此支付高昂的费用，借助专业的技术手段侦破骗局。加州校长办公室统计，2023年社区大学申请者中高达25%是机器人，而校方为此支付的防欺诈费用已超过25万美元。
然而，这场校园骗局不过是AI侵蚀现实世界的冰山一角。
从伪造“全红婵家新房开工”的带货视频，到用雷军的声音生成骂人内容；从“假靳东”骗取老人20万元，到宝妈被AI恋人骗走200万元，AI诈骗已渗透社交、消费、金融的每一个缝隙。
在这场AI技术与人类的认知攻防战中，人类正面临一场前所未有的信任危机——我们还能相信自己的眼睛和耳朵吗？
01
AI学霸攻陷社区大学
“赛博学生”们的伪装也并非毫无破绽。
2023年，伯克利市立学院（Berkeley City College）图书馆员道奇（Heather Dodge）在线上课程中要求学生用iPhone或网路摄影机拍摄基本自我介绍的影片作业，但发现4名学生提交的是类似ChatGPT生成的泛泛文字。
道奇开始怀疑他们的学生身份，但因为担心存在偏见，她要求对他们分别进行Zoom会议。其中两人没回应，一名学生同意进行视频会议，但表示摄影机和麦克风无法使用，另一名学生几乎不会说英语，每次透过Zoom提问，都用手机翻译。
除此以外，还出现了大量回复内容明显不合常理、几乎不可能是人类所写的账户。例如有的注册账号会在自我介绍中写出“你好，我是 [请输入城市名称] 的学生”这类明显的程序模板语句，或者使用学生通常不会用的文法。
这些“赛博学生”通过注册课程并保持足够长的注册时间，为了维持在校身份，TA们会提交由 AI 生成的作业。
TA们的目标是社区大学的助学金。作为两年制的公立大学，美国社区大学学费通常低于四年制大学。由于招生对象以本地学生为主，州和联邦政府也会提供助学金支持。
加州法律要求社区大学接受所有合法学生，且长期致力降低注册门槛，学生需签署宣誓书，保证其资讯真实性，但许多大学不会独立核实学生身分。部分学院声称对无家可归或曾寄养青年的申请者较为宽松，这一漏洞正被诈骗者利用。
教师们也面临甄别真假学生的挑战。Southwestern College 教授伊丽莎白・史密斯透露，她原本课程注册的 104 人中，仅确认其中 15 人为真实学生，其余均被她判断为机器人。“起初我还为课程受欢迎感到开心，现在只剩下满心失望。”
但在许多情况下，人工判断并不容易，还需要借助专业的技术手段，当然也需要学校支付不菲的费用。
洛杉矶社区学院副校长洛佩兹（Nicole Albo-Lopez）表示，去年因诈欺行为，学区删除约四分之一课程注册，学校向身份验证公司Socure支付超过25万美元协助侦测诈欺。
当“赛博学生”在校园中悄然蚕食教育资源时，一场AI信任危机正在社会各个角落悄然蔓延。
02
AI骗局随处可见
AI诈骗的触角早已突破校园围墙，在国内，自带光环的公众人物正在成为首批大规模受害者。
近日，社交平台上出现多个账号使用AI合成的全红婵爸爸、哥哥声音，用完全相同的文案介绍家里要盖新房，以此来博取流量。
在AI合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较大的仿冒作品评论区中，不乏有人被骗下单购买，部分消费者收到三无产品后投诉无门。
事实上，利用AI伪造视频的现象并不罕见，此前曾有多位明星成为AI伪造视频的素材。
半个月前，张馨予公开谴责商家用 AI 合成其声音推销减肥药。一个月前，刘晓庆也遭遇 AI 换脸视频冒用，公开表示 “声音像我却非我”。
“去年‘十一’，有网友说过了7天假，被我整整骂了8天。是什么（情况）？网上出现了非常多（AI生成的）用我的声音骂人的内容。”今年3月，小米集团创始人雷军在两会期间就表示，他本人就是AI换脸拟声的受害者。
“假靳东”诈骗老年人、“国庆7天AI雷军骂了8天”、“张文宏”深夜带货等一众AI假冒名人的新闻频频出现在热搜榜单上，已经引起今年两会代表委员的高度关注，呼吁通过法律手段来加强对AI诈骗的管理和约束。
与此同时，AI 诈骗早已突破名人圈，渗透至社交陷阱、消费欺诈和信息泄露等生活高频场景。
不久前，AI假孙子的视频就让不少老年人深陷其中，视频里穿纸尿裤的婴儿独自去地里摘茄子、洗净后还能抄起菜刀给全家做三菜一汤。这些违背常理的内容，在年轻人看来简直让人难以置信，却丝毫不影响评论区“幸福时光”“幸福快乐”等老年用户留下点赞和祝福。
如果说面对AI假孙子，老年人只是投入感情，那在面对假“靳东”的时候，则是情感金钱双投入。在假“靳东”诈骗案中，其中最典型的一例是60岁阿姨向假靳东转账近20万元。
传统电诈中，诈骗分子集中围猎“一老一少”的情况比较常见，面对完全可以以假乱真的AI诈骗，年轻人也和老年人一样没有招架之力。
利用换脸和换声技术，AI 化身“虚拟恋人”，用精心设计的话术和人设，把受害人迷得晕头转向，最后露出“骗钱”的真面目，类似网络交友诈骗案例屡见不鲜。
据《中国青年报》报道，2023年，宝妈王枚（化名）在境外求学期间通过社交平台结识伪装成房东的男性网友，对方利用AI换脸换声技术获取其信任并发展恋爱关系。随后以投资加密货币为名诱骗其小额试水获利，逐步诱导加大投入，致使王枚抵押房产、网贷累计损失约200万元，最终提现受阻发现被骗。
从名人到普罗大众，AI 诈骗正无孔不入。
03
AI黑产已成产业链
AI 骗局在现实中肆意横行，而在这背后，一个庞大且复杂的 AI 黑产产业链正悄然成型。
在电影《孤注一掷》中，大型诈骗集团由成百上千名诈骗分子组成，集团内部分工明确。如今，AI技术普及让诈骗门槛大幅降低，一两名诈骗分子就可以展开个人作案，AI技术承担了从目标筛选到身份伪装的一系列工作。
几年前“假靳东”进行情感诈骗时还需要有真人来扮演，可现在AI生成的虚拟人物不仅更逼真，而且还更懂老年人的需求。
事实上，AI黑产由来已久。
早在2017年，一个名为“deepfakes”的 Reddit 用户在社交网站上发布了斯嘉丽・约翰逊等女演员的换脸视频，使得“Deepfake”成为了 “AI 换脸”的代名词。
模型公布后引发轰动。网络上随即开始出现大量使用Deepfake合成的色情视频，其中不少视频女主角的人脸被替换为斯嘉丽·约翰逊、盖尔·加朵等大牌女星。
这给女星们造成了极其恶劣的负面影响，最终在粉丝的谴责中，视频被删除，相关论坛也被封禁。
但由于相关技术的源代码都免费开放，很快，一系列AI换脸软件在国内风生水起，包括ZAO、去演、颜技和AI换脸等。
在号称“仅需一张照片，出演天下好戏”的ZAO，只需一张正面照，就能生成十分真实且灵动的最长可达一分钟的视频，吸引了大量用户关注。但很快，ZAO的霸王条款和隐私泄露等问题遭到人们质疑，其发行公司陌陌也随即遭到工信部约谈。
虽然AI换脸、AI脱衣以及AI语音和视频这些技术早已有之，但随着ChatGPT的火热，这些技术再次回到大家的视野，甚至变得更加逼真，更加低门槛。
更让人担忧的是，AI诈骗已经形成了“生成-传播-洗钱”的完整产业链。
上游技术提供者通过暗网兜售“AI换脸套餐”，价格从几百元到数万元不等。中游推广者则利用非法获取的个人信息库，通过短信、社交软件精准投放诈骗信息。下游洗钱者则通过虚拟货币、跑分平台等渠道转移资金。
除此以外，AI诈骗也在越来越普遍。
在一起山东警方破获的AI诈骗案中。受骗人在收到冒充他的亲戚的信息后，还收到了他打来的视频，尽管在7秒的视频中连线有些许卡顿，但是声音和样貌都让受骗人确认了对方的身份，进而向对方账户转账。
近一段时间以来，这种案例屡见不鲜。福州某科技公司法定代表人郭先生，也因为AI伪造的微信视频，在短短十分钟内，就被骗了430万。
AI的进化史，也是一块人性的试金石。当“赛博学生”以公益之名掠夺教育资源，当“虚拟恋人”以温情为饵榨干受害者积蓄，技术的双刃性从未如此锋利。
