在互联网社交时代下,“人设”一词越来越被大家广泛接受、使用、演绎。选对讨喜人设,能让自己在网络上更具有魅力,更容易建立社交关系。但对于部分不法分子来说,人设已经不再是简单的标签,而变成了一件可以随意更换的"戏服",他们利用科技盗取他人照片,包装虚假人设进行诈骗,极易引发用户不安全感,损坏用户利益。Soul作为新型社交平台,重点整治虚假人设,建立专项小组,针对“假人设”问题进行分析,在“假人设”的治理策略中,全新推出“瞬间假人设风险提醒”功能,提高用户对平台内容的信任度。
从全站到全网,图片识别再升级
目前,图片已成为“假人设”诈骗的主要工具,其中不乏涉及人像、财产、身份等敏感内容。为了防止不法分子盗用照片进行诈骗,Soul App早先就已推出图片查重功能,针对高风险图片进行预警,帮助网友能更好地辨别内容真实性,进而规避经济上的损失。
而随着“瞬间假人设风险提醒”功能的上线,Soul App也对图片识别模型进行升级,由之前的只能识别站内图片,升级为全网图片识别,大幅提升了识别范围和准确性,提醒话术相应更新为:“请注意甄别信息真伪,避免上当受骗。”
升级后的图片识别技术,已超越了单一的站内重复性检测。通过融合图片格式分析、历史行为追踪、图库比对等多种维度的技术,结合先进的人像识别算法,Soul App的风控团队目前已能精确评估出图片人像的真实性。全自动化系统能够高效识别和处理站内的盗图问题,从而显著提升对站内虚假图片和盗图行为的管理能力。
风控模型升级,精准识别假人设
目前,Soul App的风控模型已具有全维度的监控能力,可以对私聊、发帖或各个公域场景中图片、语音与文字内容进行识别。
很多假人设在构建身份叙述时,常常会出现与真实情况不符或前后叙述不一致的破绽,Soul通过精确地捕捉这些身份矛盾点,并针对性地对相关用户进行识别和分类,对内能显著增加站内的人像识别效率,对外能提升用户体验,创建更符合用户期待的社区环境。
得益于Soul App团队在平台风控上的努力,“瞬间假人设风险提醒”自上线以来,已经实现超过95%的准确率和60%的覆盖率,在近一个月的时间内,发送提醒超57万次。
Soul相信,社交的本质在于人与人之间真实、坦诚的交流与连接,真善美,才是*的本色。在未来,Soul仍将不断投入资源和技术创新,为打造一个安全、可靠且富有温度的社交平台而努力。