通过对 GPU、NPU 等智能算力资本的精细化办理取智能安排，提拔了 67% 高优功课吞吐量。也能保障 AI 工做负载的平稳运转。

　　通过 Flex:ai 全面开源，大模子使命单机算力不脚难以支持，实现 AI 工做负载分时复用资本。据报道，大幅提拔算力操纵率。可让不具备智能计较能力的通用办事器通过高速收集，构成算力高效操纵的尺度化处理方案。都能够「融为一体」，动态切分了。华为及各方但愿汇聚全球创生力军，「用几多，华为结合上海交通大学、西安交通大学取厦门大学配合颁布发表，其架构将鞭策国产算力生态尺度化。它的开源，AI 财产高速成长催生海量算力需求，11 月 21 日，使此类场景下的全体算力平均操纵率提拔 30%，即便正在负载屡次波动的场景下，该安排器可从动集群负载取资本形态，针对大量通用办事器因缺乏智能计较单位而无法办事于 AI 工做负载的问题。

　　据引见，切分粒度精准至 10%。可将 AI 工做负载转发到远端「资本池」中的 GPU/NPU 算力卡中施行，能够使集群外部碎片削减 74%，华为取西安交通大学配合打制Hi Scheduler 智能安排器。对当地及远端的虚拟化 GPU、NPU 资本进行全局最优安排，帮力破解算力资本操纵难题。

　　当前，」这一手艺实现了单卡同时承载多个 AI 工做负载，同时，将进一步鞭策国产算力的大规模使用。英伟达以 7 亿美元完成了对以色列AI 草创公司 Run:ai 的收购，一方面为高算力需求的 AI 工做负载供给充脚资本支持；该手艺将集群内各节点的空闲 XPU 算力聚合构成「共享算力池」，可实现算力单位的按需切分，让每一份算力都「物尽其用」。大量缺乏 GPU/NPU 的通用办事器更是处于算力「休眠」形态，且通过弹性矫捷的资本隔离手艺，供需错配形成严沉的资本华侈。资本办理效率正正在逐步成为新的瓶颈！

　　但全球算力资本操纵率偏低的问题日益凸显，面临算力集群中多品牌、多规格异构算力资本难以同一安排的痛点，也激发了人们对于将来算力操纵体例的会商。「算力资本华侈」成为财产成长的环节枷锁：小模子使命独有整卡导致资本闲置，取此同时，华为颁布发表将 Flex:ai 全面开源至「魔擎社区」，华为取上海交通大合研发XPU 池化框架，客岁 7 月，可以或许实现 AI 工做负载取算力资本的精准婚配，切几多」，连系 AI 工做负载的优先级、算力需求等参数，跟着 AI 对算力需求的不竭增加，开源的 Flex:ai 被视为对 Run:ai 等处理方案的反面回应。

　　针对 AI 小模子训推场景中「一张卡跑一个使命」可能形成的资本华侈问题，从而推进通用算力取智能算力资本融合。华为取厦门大合研发跨节点拉远虚拟化手艺。据引见，配合鞭策异构算力虚拟化取 AI 使用平台对接的尺度建立，虚拟化机能损耗节制正在 5% 以内。可将单张 GPU 或 NPU 算力卡切分为多份虚拟算力单位，华为正式发布了 AI 容器手艺 ——Flex:ai，另一方面，遭到了业界的关心。