10月29日凌晨，美国发生了一起令人啼笑皆非的事情。英伟达在这一天举办了GPU技术大会，官方直播只有2万人观看，但与此同时，另外一个以黄仁勋形象伪造的假直播也在同步进行，而最高观看人数超过了10万人。
生成式AI的大爆发，给千行百业带来巨大想象空间的同时，利用AI技术进行深度伪造的风险在陡然增加。尤其是Sora2等图生视频大模型发布之后，以假乱真的效果进一步加剧了外界的担忧。
攻防之间，一场深刻的“全球风控大变局”已悄然降临。
AIGC双刃剑，全球风控局势在加剧
2024年初，香港公布了一起有史以来金额最高的AI诈骗案。某跨国企业香港分公司财务人员遭“AI围猎”，诈骗团伙通过伪造总部高管邮件、音视频并组织一场逼真的多人视频会议，诱使其15次转账，损失金额高达2亿港元。
无独有偶，去年10月印尼新任总统宣誓就职后，其头像频遭盗用制作虚假视频，至少有22个虚假账号冒充其名义，骗取民众“行政费”。
这是AI时代全球风险变化的典型缩影。AIGC犹如一把双刃剑，带来AI红利的同时正加剧全球风控风险。而且，相比于以往的攻击手段，生成式AI带来的安全风险呈现多个变化趋势。
技术上，AI大幅拉低了安全攻击的门槛与成本。过去，文件篡改、证件伪造、电话诈骗等攻击多依赖人工操作，相对低频且成本较高。现在，“AI黑客”利用生成式AI工具，可轻易制作高度逼真的人脸图像、钓鱼邮件、虚假网站、恶意脚本。
技术杠杆加持下，攻击类型大增，比如深度伪造已从曾经仅由专业团队掌握变为非专业人士也能通过AI快速合成换脸视频，成为增长最快的新型风险之一。
蚂蚁数科国际业务首席技术官姚伟斌告诉数智前线，2023年以前，DeepFake等AIGC攻击比例不足千分之一，生成式AI普及后，攻击次数指数级上升，“2024年、2025年攻击比例已超过5%，甚至接近10%。”
在空间层面，AI风险已突破地理边界，影响范围更广，治理难度骤增。无论AI欺诈、电信诈骗均已跨国蔓延，但各国仍以属地方式治理，导致追责、认定、追款和执法协同困难重重。
在时间维度上，时效性也变得愈发关键。如今算法两周一迭代已算迅速，但攻击者的迭代效率却以天为单位，远超防御节奏。有数据显示，2024年，AI辅助攻击每24小时的变异率已达93%。
在时间、空间和技术等多个维度出现变化的背景下，由深度伪造引发的重大AI风险事件，已经在全球范围内带来真金白银的损失。
德勤报告预测，与深度伪造相关的网络攻击损失将从2023年的123亿美元飙升至2027年的400亿美元，复合年增长率32%，银行和金融服务业将成主要目标。
新的风险形势下，AI风控亟需变革。业界普遍认为，以前基于规则引擎叠加的“人与人对抗”的安全风控方式，已难以适应AI时代的风控需要，亟需新的风控解决方案。
单点防御转向全链路服务
过去一年，香港金管局先后公布了两批生成式AI的沙盒名单，希望通过行业的共同努力，探索具体场景的深度研发与测试验证。而入选的方案和用例从第 一批的十几个，增加到了27个，集中在金融行业的AI风控和治理。
相比于数量的增加，业内看到的变化是，在探索用AI去对抗AI的同时，大家也在逐渐意识到，安全风控已经是一个社会工程问题，不能仅仅靠单点的技术来应对。
随着攻击门槛的降低，攻击者的迭代效率已经在按天进化，传统基于规则引擎的风控系统早已力不从心。姚伟斌认为，今天单点的算法已经不够用，要从防注入的系统层面再到全链路的服务进行打通。
面对全新的风控形势，蚂蚁数科提出了由点到面的防控思路：一是要做到端到端的防控，覆盖多层级，而不仅仅依赖于单点算法。比如在攻击发生之前，对App层面进行加固，检测是否有被越权或者入侵的迹象；在被攻击时，检测算法要开始生效，鉴别攻击行为。
二是将产品和服务相结合。除了提供ZOLOZ等标准化的产品，蚂蚁数科也在给企业提供安全专家服务。安全专家这个角色会根据后台每天的攻击信息进行分析，包括是否有地域或者IP的聚集性，是否有其他相似的特征，然后设定特定的防御策略。这是蚂蚁数科今年在做的一个比较新的东西，“这意味着，从原来单纯的一个产品进化到一个安全专家服务的概念。”
三是提升全行业的共同防御能力。比如蚂蚁数科连续两年举办了针对Deepfake检测算法的比赛，目的就是帮助行业和学术圈提升整体的防御能力。
另外，蚂蚁数科也建设了天玑实验室，通过红蓝对抗的方式，去探索前沿生物识别检测与对抗攻击，并自研一套自动化生物识别检测认证体系，推动整个行业的身份识别安全水位升级。“现在有这种实验室能力或者工具的并不多。”姚伟斌告诉数智前线。
如今这种全链路的风控体系正在取得成效。在东南亚一些国家，DeepFake的攻击浓度大概在3%-5%，而蚂蚁数科旗下的安全品牌ZOLOZ能把识别准确率做到99.9%。
“短期以AI对抗AI，需要企业自觉落实相关防御措施，长期则需要监管和标准化的落地。”姚伟斌说。目前，业内开始用AI去对抗AI，拿一些坏的样本对AI进行训练，让它变得更聪明，比如用数字人对AI进行训练。
但这种做法有其局限性。安全风险的防控经常面临“道高一尺、魔高一丈”的窘境，算法依赖于数据去训练，但大多数情况下，都是出现了攻击行为之后，再把这些数据喂给算法，补上漏洞，常常是跟在攻击者后面疲于奔命。
“如果互联网的内容10%是AI的，我们还能通过算法去防一下；但假如大部分都是AI生成的，背后会带来非常巨大的计算成本。”姚伟斌认为，这需要企业的自觉，给AI生成的内容打上隐性和显性的标识。
而从长期来看，要彻底改变内容生成可信的问题，比如每一个AI生成工具要有一个Key，就好比每一个网页都对应一个http网址一样，让每个内容背后都有可信的数据生成链。
另外，AI风控也依赖全球在监管层面的协同。今年3月，国家网信办等四部门印发《人工智能生成合成内容标识办法》，要求AI生成的内容必须添加标识。香港金管局（HKMA）、新加坡MAS、马来西亚BNM等也已明确设定误拦截率、误通过率等安全指标，倒逼企业加速防控。
不过，各国的治理模式差异显著，例如欧盟以伦理先行为导向的“硬法治”模式，通过《人工智能法案》对高风险AI系统实施严格监管；而美国则偏向以技术先行为导向的“软法治”模式，更侧重行业自律和自愿承诺。这些困境凸显了单一国家或区域性治理模式的局限性，全球协同治理的紧迫性日益凸显。
中国企业如何吃到海外风控的蛋糕？
AI风控作为全球性话题，也催生了庞大的治理需求。其中金融、Web3、游戏和政企行业在AI风控的需求尤为旺盛，其原因不难理解，AI带来的风险漏洞会给这些客户带来真金白银的损失。
而海内外不少针对AI风控的项目正在受到资本的热情追捧。比如聚焦于AI合规的独角兽企业Vanta不仅得到了众多资本的青睐，其估值更是已经飙升到40多亿美元；而专注在AI模型安全领域的初创公司Irregular在今年9月完成了8000万美元融资，估值达到了4.5亿美元。
这些企业尽管在AI风控细分赛道耕耘或者局限于本土区域，但资本层面依然给予了非常积极的反馈。
这个赛道也在吸引中国企业走出去。蚂蚁数科自2017年就开始探索数字技术出海，将蚂蚁集团在中国庞大市场中磨练的最 佳实践与技术能力以产品的形式出海，服务于海外客户的数字化转型。
相比于很多创业型企业，蚂蚁数科在海外经营已经具备了诸多优势。一是蚂蚁数科的产品和技术经过了国内市场的打磨。众所周知，中国的移动支付发达，数智化进程迅速，每一个场景和产品都经历过高压环境的测试和打磨，往往在海外市场拥有很强的竞争力。
其次是阿里和蚂蚁的品牌背书效应，在国际市场尤其是东南亚的知名度很高，给蚂蚁数科在这些市场的耕耘带来诸多便利。而且，阿里和蚂蚁集团在东南亚和南亚等国投资了大量的钱包产品，比如菲律宾的GCash、印尼的DANA、马来西亚的Touch’n Go、泰国的Truemoney、孟加拉的bKash。这些本地支付宝们成了蚂蚁数科进军海外市场的肥沃土壤。
如今，蚂蚁数科旗下的安全科技商业化品牌ZOLOZ可实现用户全自助、无人工干预完成“在线身份认证”，实人认证准确率达到 99.9%，将原本至少一周以上的注册时间，缩短至3分钟，提升了客户业务效率。2023年，Forrester发布亚太区反欺诈科技服务商研究报告，ZOLOZ位列亚太区第 一。
比如ZOLOZ支持了印尼“待就业卡”项目，该项目的一个风险点在于，要确保奖学金发放到准确的学员账户中，防范欺诈冒领等问题。而通过蚂蚁数科的ZOLOZ身份认证服务，不仅免去了人工审核成本，也让学员在2分钟内完成注册认证流程。
而在海外耕耘多年的姚伟斌发现，海外市场有其独特性的一面，比如海外企业的付费习惯更好，尤其是在香港、新加坡等监管严格的地区，企业更愿意为服务买单。而且，海外企业习惯于买SaaS产品，而不是像国内市场有太多本地化部署的需求。
姚伟斌告诉数智前线，蚂蚁数科在海外的金融客户购买SaaS产品的比例非常高。相比于本地化部署，SaaS模式在AI风控上有着天然优势。一方面，产品提供方可以掌握更多的攻击样本，从而能及时响应，优化应对策略，提升拦截的效率；另一方面，风控算法本身对时效性要求高，而SaaS可以满足客户对最新算法的需要。
另外，虽然AI攻防的风险在全球范围内增加，但国家和地区之间对AI风控的诉求差异较大，比如数智化水平最高的中 美表现得最为强烈，而东南亚、南亚和日韩等市场，已经在启动智能化进程。
业内普遍认为，中国企业在技术上与国际厂商没有代差，甚至比他们更强。因为国内的竞争激烈，有场景、有客户案例，也有非常多的竞争对手。
不过，在姚伟斌看来，中国企业出海需要做技术和产品的本地化，不能幻想着像国内一样能够短时间内大爆发，需要比较长的时间去酝酿和准备。
