了解华为云最新动态
7月22日,华为云Stack在中国信息通信研究院组织的《面向行业的大模型云服务运维能力成熟度》评估中,首批通过大模型混合云部署形式最高等级Lv5引领级的检验,华为混合云副总裁、SRE部部长李金锋出席授牌仪式。
图1:华为云Stack获得最高等级Lv5引领级检验证书
为了进一步推进大模型在行业侧的落地应用,引领行业智能化升级,中国信息通信研究院联合多家单位基于AI行业云相关标准与评估实践,结合行业场景下大模型运维需求,共同编制《面向行业的大模型云服务运维能力成熟度》标准。该标准旨在规范智算基础设施、大模型、智能应用运维团队的服务范围及能力,推进大模型等AI需求基于云计算实现场景应用。在第十二届可信云大会上,中国信息通信研究院联合多家编制单位正式发布该标准。
该标准从顶层设计、行业运维实践、应用运维管理、模型运维管理、算力运维管理、模型运维平台、模型运维体系、模型故障管理、模型运维安全九个方面对待评估项目进行检验,评估结果分为探索级、实践级、优秀级、卓越级、引领级五个等级。
图2:《面向行业的大模型云服务运维能力成熟度》标准能力框图
作为首批通过评估并取得最高级的解决方案,华为云Stack大模型混合云构筑三横四纵的运维能力,帮助政企客户建立更全面、智能、灵活的运维体系,加速智能化转型。
首先,围绕基础设施、大模型及AI应用三个层级的运维对象,实现大模型全栈端到端运维服务和管理。
其次,构建四大运维架构,提供全场景,全流程运维服务。
·模型运维体系:在用云、管云阶段提供咨询顶设和运维体系规划能力,支撑企业战略、组织、流程、平台层面的高阶规划设计。
·模型运维平台:提供智算运维门户,算力全链路可观测,AI资源能够实现精细化运营管理,让模型运行情况可观测,可管理。
·模型故障管理:提供AI训推作业、算力资源池、服务器、网络设备故障诊断、日志分析、性能优化等运维管理能力,保障大模型运维SLA达成。
·模型运维安全:提供模型运行环境安全、语料数据安全、训推业务安全以及安全合规运营等运维安全能力,保障大模型业务运行安全、稳定、合规。
面向大型政企行业客户不同业务诉求,华为云Stack大模型混合云围绕AI大模型运维形成场景化解决方案,沉淀最佳实践,提供可复制、可验证、可快速落地的咨询规划、故障恢复及安全合规等运维运营支持服务,助力客户智能化业务转型成功。
依托ICT领域数十年沉淀的运维服务体系和行业运维经验,华为云Stack SRE团队通过构建现代化运维流程、智能化运维平台、数字化运维资产,使能客户用好云、管好云,保障云平台稳定运行,助力客户业务成功。在大模型混合云运维方面,团队围绕“保障平台行稳致远,让AI和数据持续释放价值”为客户提供全流程运维保障服务,实现业务价值。
目前,华为云Stack大模型混合云运维服务已经支持了包括政务、金融、能源、电力等数十个不同行业落地大模型应用的先行先试,助力客户引领驱动行业智能化的创新发展。
在本次可信云大会上,华为云“ModelArts”“盘古大模型”“大模型混合云专业技术服务”入选《大模型工程化交付服务商能力图谱》。湘潭钢铁基于华为云Stack打造的 “湘潭钢铁废钢定级”入选《大模型全栈工程化交付技术服务案例集报告》。
图3:华为云Stack大模型混合云产品能力和专业技术服务以及客户项目交付案例分别入选能力图谱和案例集报告