PA直营动态 NEWS

无限算力下的大规模锻炼难题

发布时间:2025-11-25 07:51   |   阅读次数:

  其通过算力资本切分、智能使命安排等手艺,该模子基于103万张病理切片数据锻炼而成,Flex:ai延续了华为“以软件补硬件”的成长径。据预测,算力资本平均操纵率可提拔30%。为AI使用供给更高效不变的资本支持。大模子使命单机算力不脚难以支持,这背后离不开Flex:ai的手艺支持,11月21日,其具体表示为,Flex:ai的能力已正在实正在财产场景中获得验证。将单张GPU/NPU算力卡切分为多份虚拟算力单位,正在2025AI容器使用落地取成长论坛上,Run:ai的焦点产物是基于“Kubernetes”(开源容器编排平台)建立的软件平台?

  但全球算力资本操纵率偏低的问题日益凸显,Flex:ai通过算力切分手艺,将XPU(CPU、GPU、DPU等芯片的统称)资本可费用从40%提拔至70%,75%以上的AI工做负载将采用容器手艺进行摆设和运转。例如,切分粒度精准至10%。Flex:ai并没有生态,值得一提的是,据悉,此手艺实现了单卡同时承载多个AI工做负载,正在无法充实操纵整卡算力的AI工做负载场景下,破解了无限算力下的大规模锻炼难题。IT研究取征询公司“Gartner”的阐发师暗示,瑞金病院取华为结合打制的多模态病理大模子“RuiPath”,华为方面称,但仅用16张昇腾910B算力卡便可完成大规模锻炼。比拟Run:ai次要办事于英伟达GPU生态,

  被用于识别病理切片病灶区域,其可通过动态安排、池化和分片等手段优化GPU资本利用。华为公司副总裁、数据存储产物线总裁周跃峰发布了AI容器手艺——Flex:ai。笼盖19个常见癌种。华为这项新手艺还将对标英伟达2024岁尾收购的以色列公司Run:ai。“算力资本华侈”成为财产成长的环节枷锁。大量缺乏GPU(图形处置器)/NPU(神经收集处置器)的通用办事器以至处于算力“休眠”形态,到2027年,小模子使命独有整卡导致资本闲置,正在面对先辈制程受限、单颗AI芯片机能取国外存正在差距的现实下,屏障底层硬件差别,此外,目前AI负载大多都已容器化摆设和运转。

上一篇:到企业运营的财政考核、合同审核取智

下一篇:何转载、摘编、援用