云天励飞携2款边缘AI新品、3大创新能力亮相2024北京安博会

10月22日-25日,2024安博会在北京举行。本届安博会以“数智世界 全域安全”为主题,全面展示近年来人工智能与警务结合应用的*成果。

在本次安博会上,云天励飞全面展示利用边缘AI技术和产品打造“大模型+警务”创新应用的成果。

1个边缘AI技术底座

云天励飞自主研发了两大技术平台——多模态大模型“云天天书”、NPU加速计算平台,这两大技术平台为云天励飞边缘AI构筑起了一个坚实的技术底座。

“云天天书”系列大模型使用自研训练框架,全栈适配国产算力,在可伸缩训练、断点续训等业界难点问题上屡次取得创新突破。采用首创SPACE高性能推理引擎,同等条件下推理速度提升超80%,做到“算得快、算得多、算得精”。具备边缘端硬件在线微调学习能力,通过能力蒸馏研发的1.8B轻量化模型和MoE大模型,边缘应用性能普遍优于同等参数模型,可支撑大模型在边缘设备的广泛落地。“云天天书”大模型已于2023年底正式通过中央网信办备案。

基于NPU加速计算平台,云天励飞从成立至今已完成3代指令集架构、4代神经网络处理器架构的研发,且已陆续商用。2023年底最新推出的 AI 芯片 DeepEdge10 基于自主可控的先进国产工艺打造,支持Chiplet技术,可实现单芯片算力的灵活扩展,满足不同场景的算力需求。目前DeepEdge10 已在摄像头、边缘服务器、机器人、汽车等边缘设备落地应用。

2款面向警务的边缘AI产品

本次安博会上,云天励飞带来两款全新的“天舟”大模型推理一体机产品D222B和D228B。

“天舟”是云天励飞基于自研芯片、加速卡和大模型打造的面向大模型应用的软硬一体化产品,可实现大模型低成本部署、开箱即用。

本次展出的两款新品内置云天励飞自研IPU-X2000加速卡。IPU-X2000基于DeepEdge10打造,峰值算力达32Tops@int8,单卡支持 40 路 1080P 视频解析,单路*支持 800W 像素视频流,适配Transformer模型、BEV模型等各类不同架构的主流模型。

D222B和D228B分别支持80路和320路视频算法分析,实现大模型在监所、督查、交管、治安等场景的快速赋能。

3项创新智慧警务功能

基于“云天天书”大模型,云天励飞针对警务的行业特性,打造了“云天天书警务大模型”,并结合云天励飞10年来沉淀的丰富警务行业知识,为各类警务应用提供智能支撑。

本次展会上,云天励飞重点展示3项创新功能——视频巡逻、语义搜和视图增强。

视频巡逻:智能识别危险动作、风险行为,有效预防风险、降低警情、节约警力。

语义搜:将VQA(Visual Question Answering)与TSG(Temporal Sentence Grounding)技术巧妙融合,实现“一句话就是一个技战法”。

视图增强:实现图像超分辨率、夜景增强、智能去噪、素描转换图像、图像着色,以及年龄变化模拟(加龄减龄)等。

N项创新警务应用

本次展会上,云天励飞还全面展示了多项行业与大模型结合的创新解决方案,包括“深海”警务多维大数据应用解决方案、电动自行车综合治理解决方案、智慧监所解决方案、智慧安防社区解决方案、AIGC视图增强解决方案等。