第 一财经聚焦丨六方云李江力：AI大模型发展面临诸多安全挑战

在2023世界人工智能大会(WAIC)上，AI大模型无疑是最 大的“顶流”，全球人士都报以极大期待，随着通用人工智能的发展，国产AI大模型技术迎来了阶段性的成果，但是所面临的网络安全问题依然阻碍了人工智能进一步面向产业落地应用。六方云CEO李江力接受上海财经等多家媒体采访发表行业观点。

7月6日-8日，以“智联世界生成未来”为主题的2023世界人工智能大会(WAIC)在上海举行，涵盖大模型、AI for Science、通用智能体等十大话题方向，充分展现新技术赋能各行各业的多元生态。4位图灵奖得住，1位诺贝尔奖得住，80余位国内外院士出席，1400余位重量级嘉宾齐聚，第六届世界人工智能大会（WAIC 2023）点“燃”魔都上海。

六方云CEO李江力接受上海第 一财经等多家媒体采访，就AI大模型在网络安全方面的风险和挑战分享看法。李江力表示：现在很多人工智能大模型工作是在云端，当我们在用大模型能力的时候，企业需要把数据传递到云端，不可避免会带来一些数据泄露，同样的从云端处理完之后回到本地，也会有类似的问题。如何克服这些问题呢，我们可以尝试在两端用加密的方法来处理，也可能会有一些新的更先进的大模型可以在本地化进行安装部署。

李江力接受上海第 一财经采访

新技术的诞生，不仅会成为攻击方的“矛”，也在增厚防御方的“盾”。“AI大模型‘落地难’的本质在于，当前还没有找到场景、风险和规范三者之间的平衡点。从政策维度看，近几年随着网络安全法、等保、关保、数据安全法及个人信息保护法等政策法规的陆续出台，我国网络安全行业的政策立法顶层设计不断完善。但是面对瞬息万变的网络安全环境，现有法律法规体系难以跟上技术发展速度，法律法规滞后及执行力度不足，为攻击方提供了可乘之机。

六方云与时俱进，为了应对敌暗我明、形式多变，日趋高频化和隐蔽化的网络攻防战，六方云超弦实验室紧跟科技前沿，进行AI大模型的探索研究，构建可抵御对抗攻击的AI系统，提高对抗性攻击的泛化性和鲁棒性，立志于保护使用大模型的用户的资产和数据安全。

六方云将持续迭代技术、以技术为核心，扎实打磨产品，确保将人工智能的两面性这一关键变量，转化为高质量发展的最 大增量，保护工业用户的安全，守护我国关键信息基础设施安全。