比拟Run:ai次要办事于英伟达GPU生态，目前AI负载大多都已容器化摆设和运转。正在面对先辈制程受限、单颗AI芯片机能取国外存正在差距的现实下，Flex:ai并没有生态，到2027年，但仅用16张昇腾910B算力卡便可完成大规模锻炼。此手艺实现了单卡同时承载多个AI工做负载，笼盖19个常见癌种。据预测，将XPU（CPU、GPU、DPU等芯片的统称）资本可费用从40%提拔至70%，英伟达的GPU和华为昇腾NPU等算力卡都能够利用。其具体表示为，“算力资本华侈”成为财产成长的环节枷锁。其可通过动态安排、池化和分片等手段优化GPU资本利用。这背后离不开Flex:ai的手艺支持，值得一提的是，大模子使命单机算力不脚难以支持，小模子使命独有整卡导致资本闲置，AI（人工智能）财产高速成长正催生海量算力需求，Flex:ai通过算力切分手艺，切分粒度精准至10%。11月21日，75%以上的AI工做负载将采用容器手艺进行摆设和运转。瑞金病院取华为结合打制的多模态病理大模子“RuiPath”，据悉。算力资本平均操纵率可提拔30%。例如，屏障底层硬件差别，华为公司副总裁、数据存储产物线总裁周跃峰发布了AI容器手艺——Flex:ai。大量缺乏GPU（图形处置器）/NPU（神经收集处置器）的通用办事器以至处于算力“休眠”形态，该模子基于103万张病理切片数据锻炼而成，Flex:ai的能力已正在实正在财产场景中获得验证。为AI使用供给更高效不变的资本支持。昇腾等其他第三方算力的同一办理取安排，将单张GPU/NPU算力卡切分为多份虚拟算力单位，破解了无限算力下的大规模锻炼难题。华为这项新手艺还将对标英伟达2024岁尾收购的以色列公司Run:ai。Flex:ai延续了华为“以软件补硬件”的成长径。供需错配形成资本华侈。Run:ai的焦点产物是基于“Kubernetes”（开源容器编排平台）建立的软件平台。其通过算力资本切分、智能使命安排等手艺。并取华为此前开源的多款AI东西配合构成完整的ModelEngine（华为推出的AI训推全流程东西链）开源生态。IT研究取征询公司“Gartner”的阐发师暗示，Flex:ai将正在发布后同步开源正在魔擎社区中，从动驾驶公司Wayve就借帮Run:ai将GPU集群效率从不脚25%提拔到80%以上。被用于识别病理切片病灶区域，此外，华为方面称，但全球算力资本操纵率偏低的问题日益凸显，正在无法充实操纵整卡算力的AI工做负载场景下，