近日,线上社交场景愈发多元化,各类复合型、伪装性的社交行为,对平台精细化风控能力提出更高要求。传统单一的审核模式,难以甄别整套人设逻辑下的隐性风险。在 Soul IPO 稳步推进的过程中,平台聚焦场景化治理痛点,落地多模态 AI 识别技术,对《社区公约》进行了AI相关补充更新,精准破解新型社交治理难题。
在部分典型高风险案例中,一个账号可能会通过豪车、高薪职业、高消费生活方式等内容,塑造“成功人士”“高净值男性”或“精英职业”等人设,再配合高度模板化的话术与情绪引导,逐步建立信任关系。单独看其中任何一个内容,可能都并不足以构成传统意义上的违规。图片本身没有敏感信息,聊天内容也可能只是普通社交表达。但当这些信息被放在一起时,风险特征就会逐渐显现。“豪车男”账号的问题,不在某一句话或某一张图单点,而是整套“人设逻辑”本身。也正因此,Soul开始更多采用跨模态联动的AI治理能力,将图片、文本、视频、声纹以及用户行为等不同维度的信息进行综合判断。
目前Soul已经逐步形成了一套覆盖图片、文本、视频、声纹以及用户行为等维度的多模态AI治理体系,并将其应用于虚假人设识别、异常互动判断、风险内容拦截等多个场景。例如在图片场景中,平台会结合AI生成痕迹识别、图片原创性判断等能力,对AI生成图、盗图、拼接图等内容进行综合分析;在文本与互动场景中,则会通过大模型意图识别能力,对异常导流、人设包装以及欺诈倾向进行识别,而不仅仅依赖关键词本身。
同时,平台也在持续加强对视频、语音等复杂场景的风险识别能力。针对AI伪造声纹以及跨账号关联等问题,Soul逐步建立起基于声纹特征以及行为链路的联动识别机制,以提升对高伪装风险内容的发现能力。
通过整合图文、声纹、行为链路等多维数据,平台 AI 治理体系实现了对隐性社交风险的精准研判,大幅提升复杂场景的治理效果。当前 Soul 上市进程有序开展,平台持续迭代智能识别技术模块,深耕场景化、精细化治理,凭借成熟的技术治理能力,持续筑牢社区社交安全屏障。