阿里云发布全栈AI负载高可用 与用户共建AI时代云上IT新治理

12月17日上午，在中国信息通信研究院主办的2024第五届“GOLF+IT新治理领导力论坛”主论坛上，阿里云重磅发布了全栈AI负载高可用架构，以满足AI大模型企业级应用在大规模参数量、复杂结构和高性能算力背景下，对云服务处理能力可扩展性、服务连续性、服务质量和故障快速恢复的需求。

以为生成式 AI 打造持续的*用户体验为目的，阿里云全栈AI负载高可用架构可达到GPU故障预测准确率92%，千卡规模集群连续训练有效时长大于99%，秒级模型自动保存、分钟级故障恢复；每分钟10000个pod扩展，分钟级自动扩容；核心模型服务99.99%的API SLA，模型应用服务全链路可观测等重要的AI业务高可用目标，在大规模数据处理和训推场景下，实现了对Gen AI应用业务连续性、响应速度、稳定性和安全性的全面保障。

在论坛上，2025年中国数字化治理领域最新评估结果揭晓，阿里云成为首批通过信通院“企业用云治理能力成熟度评估”评测的两家企业之一，同时获得该项能力评估最高等级。

阿里云全栈AI负载高可用架构正式发布

在AI算力需求逐渐超越通用需求的今天，以GenAI为代表的应用场景和技术倍增，云上企业需要处理和存储的数据量呈指数增长，AI驱动的应用在高负载情况下，对保障业务的连续性、响应速度、稳定性和安全性均提出了更高要求。

为此，阿里云在升级云平台自身的技术服务能力的同时，将GPU、异构算力集群、容器集群、存储、向量数据库、机器学习平台等AI负载高可用全面融入云平台架构设计，围绕大模型训练微调、推理、多模态数据处理等环节，构建具备“高可用模型训练、灵活弹性的推理资源、数据高可靠”特性的全栈AI负载高可用架构，实现了从通用负载向AI负载的可用性演进，为客户AI业务构建提供稳定的业务服务和出色的用户体验。

在高可用模型训练方面，阿里云AI基础设施高可用能力融入云服务整体架构设计，基于AI算法的故障预测，实现训推环节的性能瓶颈分析和潜在故障分析，GPU故障预测准确率达92%，同时将异常预测接入自愈链路，训练恢复自愈率超90%、千卡规模集群连续训练有效时长大于99%，实现秒级模型自动保存、分钟级故障恢复；同时，CPFS 高性能存储集群，在超大集群中 20TB/s 的吞吐能力，支持更大及更加频繁的 Checkpoint 读写，能够更好地防止数据丢失，并提升训练的稳定性和可靠性。在网络层面，阿里云自研的高性能网络，业界首创双平面的高可用网络架构，网络Link和设备中断，训练任务不中断。

在推理资源方面，阿里云容器计算服务ACS的弹性能力实现每分钟可以进行10000个pod扩展，分钟级自动扩容；PAI-EAS模型在线服务，适用于实时推理、近实时异步推理等多种AI推理场景，能感知每个请求的执行进度，做到更公平的任务调度，提高扩缩容效率。同时，阿里云将跨区域的主动式重路由技术运用到数据中心间的通信，从而在跨数据中心推理网络上，达到跨域带宽业界最高的 99.995% SLA，实现秒级内重新路由，提供一个更加稳定的网络通信延迟。

对于在实时语音交互、实时AI搜索等高性能场景有推理需求的客户，阿里云百炼模型服务平台，基于预训练模型为用户提供模型推理与应用构建托管服务，核心模型服务API达到 99.99% SLA，高性能场景核心用户用例中的首包延时小于300毫秒，能够有效解决应用开发、模型调用等过程中的跨区域TPM限制、高并发需求下API响应变慢等问题，提升Gen AI应用推理与构建时的用户体验。

在数据高可靠方面，阿里云数据存储与数据库服务面向不同计算引擎、多种 AI 框架进行了深度集成，形成承载PB级甚至EB级大规模数据统一的存储底座，同城冗余容灾，高达99.995% SLA，数据多副本冗余、大文件断点续传、批量和多线程数据操作保障数据服务高可靠，向上支撑面向单AZ, 双AZ, 三AZ及跨Region的高可用服务，跨Region AI数据的就近读写和负载均衡，满足AI数据多活的强一致性，AI数据冷备、热备、故障自动切换，解决AI数据故障风险。

AI时代与用户共建云上的IT新治理

AI时代的浪潮中，企业对于高可用架构的需求不仅仅停留在节点的稳定性上，而是在更高的层面追求智能化运营。阿里云全栈AI负载的高可用架构已为企业奠定了坚实的技术基础，而进一步的挑战则在于如何提升云上系统的运维管理与治理能力。通过与用户携手，阿里云致力于在云环境中构建一个AI-Native的智能化、自动化和可持续的IT治理体系，为企业的创新之路保驾护航。

阿里云根据多年服务客户的经验总结为一系列的方法论和架构设计原则，推出了阿里云*架构 Well-Architeched Framework，意在帮助企业在云上构建一个安全、稳定、高效的应用环境。面向AI技术融入带来的更复杂更大规模的，根据云计算的弹性、实时交付、自助化等特点，阿里云*架构进一步升级了用云企业运维管理和治理规则基线的*实践，依靠Well-Architeched云*架构来学习-度量-优化，落地治理潜在的风险隐患，从安全、稳定、效率、成本、性能五大支柱全面提升系统整体韧性和运营效率。

阿里云开放平台负责人何登成表示，“在云上构建可靠的系统是云厂商与用户共同的责任。云厂商负责提供云平台的可靠性，确保提供的云服务可用性符合或超过阿里云服务等级协议；用户需要根据业务需求，选择合适的产品服务，并根据云相关文档的指导搭建高可用架构，来确保云上应用的可靠性。”

尤其在AI迅猛发展的今天，企业更应让业务系统利用现代云平台的基础设施达到高可用，总结成三个"面向"：面向失败的设计架构，面向精细的运维管控，面向风险的应急快恢。同时，用户可以在建设持续稳定的云环境过程中，面向AI并结合AI，通过良好的AI模型训推架构设计、AI数据资产处理与存储、智能诊断与风险预测等手段，进一步提升系统可用性、可靠性、可持续性。

阿里云获信通院企业用云治理能力成熟度评估最高等级 

据信通院发布的《企业用云治理能力成熟度分级要求》，企业用云治理能力成熟度评估共分为L1-L5共5个等级，分别为L1基础级、L2应用级、L3优秀级、L4先进级、L5*级。该分级要求不仅适用于对云服务使用方用云治理能力成熟度进行评估，也适用于对云服务提供商云服务治理产品、技术能力成熟度进行评估。阿里云测评结果为L4+，是目前阶段云服务提供商实际获得的最高等级。

此前，阿里云企业用云治理能力曾两度获得信通院评测认可，包括2022年“企业云治理能力成熟度模型”获信通院科技治理领域年度明星解决方案及产品；2023年“云治理中心”获信通院科技治理领域年度明星解决方案。

今年，针对企业用云发展路径、企业云治理发展趋势分析与洞察，阿里云联合埃森哲发布《云治理企业成熟度发展2024年度报告》（https://developer.aliyun.com/ebook/8419），报告调研取样来自400多家企业客户，横跨互联网、金融、新零售、交通等多个行业，旨在帮助用户理解云治理概念、企业用云实践的现状及变迁趋势，并基于云治理框架的五大分类（即稳定性、安全合规、成本效益、高效性能、*运营），报告作为企业云上旅程的实践样本，为面向AI时代做好IT新治理和云上架构优化提供更多的参考与决策依据。

（完）