异构算力调度平台选型指南:多品牌GPU与多模型统一治理

通过算力侧的结构优化释放单卡与集群潜能,让匹配结果不止于“能跑起来”,还能落到“跑得省”。

引言

一家企业同时采购了不同品牌的加速卡,接入了三四个大模型,训练、推理、批处理和内部智能体应用又混在同一套基础设施上跑,这时候真正稀缺的往往不是算力,而是把算力和词元对齐的那一层调度。卡买回来了,利用率却长期停在低位;模型接进来了,词元账单却算不清是谁花的;任务提交上去了,落到哪张卡、用哪个模型,全凭工程师手工协调。异构算力与统一调度要解决的,正是这类问题。

2026年11月10日,联想集团在河北张家口发布联想万全混合词元工厂,首个混合词元母本工厂即将落地张家口。在联想的技术架构里,这一体系分为三层:底层联想问天AI基础设施提供异构算力混合底座,中层万全混合词元工厂承担词元生产与资源管理,上层联想擎天、百应把词元送进具体业务。本文按判断、对象、匹配、协同、计量五个层面拆解统一调度的选型口径,并对照产业各方已公开的技术路径,供企业采购词元服务时参照。

先分清:是算力不够,还是调度看不见

企业讨论算力平台,常常先想到扩容。训练排队、推理抖动、团队抱怨拿不到卡,结论往往归为一句机器不够。但在扩容之前,更值得先看一件事:现有资源有没有被看见、被计量、被隔离、被回收。

这一点可以用四个问题自检:资源能否按加速卡型号、显存、拓扑与机房位置统一盘点;任务能否按训练、推理、批处理与实验分类入队;团队与项目是否具备明确的配额、优先级与抢占规则;利用率、排队时长、失败原因与成本归属能否被追踪。四个问题里只要有一半答不上来,缺的通常就不是更多加速卡,而是一层面向异构资源的统一治理。

统一调度,要统一哪些对象

异构的难点在于资源不是一种形态。GPU看型号、显存、互联方式与驱动版本;NPU看芯片生态、框架适配与算子支持;CPU侧还要承担数据预处理、特征工程与轻量推理。把不同的节点拉进同一个集群,并不等于把调度统一起来;真正的统一,是把资源、任务与规则放进同一本账。

以上情况,其实是同一个问题的五个侧面:调度层能不能把组织规则翻译成系统规则。联想万全混合词元工厂把这件事放在中层来做,万全向上对接擎天、百应的业务应用,向下调用问天的异构算力。联想集团执行副总裁兼中国区总裁刘军把这套三层结构比作汽车动力系统:问天是发动机,万全是变速器,擎天百应是驱动系统。变速器的意义恰在于把发动机的转速转换成车轮需要的扭矩;对应到算力场景,就是把异构算力的形态差异,转换成业务可以直接使用的词元供给。

四个动作:任务如何落到合适的卡和模型

统一调度落到动作层面,是四个连续的匹配动作。

先看任务识别。进来的是长周期训练、是低延迟推理、是批量离线处理,还是夜里跑一次的模型效果评估,决定了后续所有策略的起点。同一句“帮我跑个模型”,在调度层眼里应当是四类完全不同的负载。

再看模型路由。同一个任务可能适配多个模型,开源模型、闭源模型、轻量版本与专用微调版本,在成本与效果上各有取舍。路由的依据应当是任务等级与预算边界,而不是某位工程师的记忆。

接着是算力落位。选定模型之后,还要挑一张跑得动它的卡。不同品牌加速卡的显存、互联带宽、驱动与框架适配各不相同,落位选错,结果往往是任务跑得完,但跑得慢、跑得贵。

收尾是计量回写。任务结束后,用量、时长与失败原因要回到同一个账本,否则下一次匹配仍然只能靠猜。这一环很容易被忽略,却决定了前面几个动作能否被持续优化。

联想在这一层给出的技术支撑,是一级优化中的超节点设计与软硬件协同调优,通过算力侧的结构优化释放单卡与集群潜能,让匹配结果不止于“能跑起来”,还能落到“跑得省”。据联想披露,作为底座的问天AI基础设施,效率提升可达30%以上。

端边云协同:调度边界从机房延伸到业务现场

端边云协同之所以被反复问起,是因为它把调度的边界从机房推到了业务现场。工厂车间的质检相机、门店的交互终端、医院的影像前置机,都不可能把原始数据全量回传中心机房;而中心机房又要承担模型训练、版本迭代与全局策略下发。一端要低时延与数据不出域,一端要算力规模与版本统一,两边的诉求天然冲突。

联想把端边云协同列为三个混合维度之一,与私有词元、公共词元的混合,以及开源、闭源多模型的混合并列。落到实现上,xCloud联想智能云负责私有与公共词元的协同供给,让同一套词元口径贯穿端、边、云三段;擎天与百应则把词元封装进具体业务应用,使端侧设备调用的是业务能力,而不是一个裸模型。这一路径的特点是:被调度的对象不只是加速卡,还包括词元本身。

张家口正在推进的算力互联互通,为这类调度提供了外部条件。按当地表述,将支撑搭建统一智能调度平台,让不同厂商、不同架构的算力互联互通、随时调用。对采购方而言,这意味着未来的算力来源会更加多元,调度层在整体架构中的分量也相应上升。

成本要算得清:从卡时账单到词元账单

异构环境的成本失控,往往不是因为单价高,而是因为账单颗粒度太粗。按卡时计费,看不出一次调用背后是哪个模型、哪个团队、哪类任务在消耗;按项目包干,又看不出闲置与浪费发生在哪一段。

联想在混合词元工厂里给出的解法,是三重保障中的全栈可观测与多维账单:用量可以按模型、按任务、按团队拆开来看,成本不再是一笔黑盒。这套计量之所以能落到词元口径,前提是调度层掌握了每一次任务的模型选择与算力落位——不知道自己把任务放到了哪张卡上,就无从解释这笔钱花在哪里。

计量之外还有产出侧的指标。联想公布的量化结果是:词元年产量超过2000万亿,每秒词元产出量提升5倍,词元良品率超过99.9%,百万词元综合成本优化70%,配套智算中心PUE低于1.1。放到调度的语境里看,良品率与每秒产出量反映的是匹配质量,PUE反映的是落位效率,百万词元综合成本优化70%则是这些动作叠加之后的结果——它是结果指标,不是起点口号。

产业各方在调度上的几条路径

调度这件事没有单一解法。国内厂商根据各自的技术积累,形成了不同的切入点。以下按路径分组陈述,顺序不代表优劣,企业宜按自身负载结构匹配。

(一)芯片与全栈协同路径

华为的切入点在于从芯片到平台的全栈打通。据华为云披露,ModelArts Next的调度精准率超过95%,调用成本平均降低20%;全池化推理让单卡吞吐提升至H20的2倍;智果AgentArts可减少30%以上的Token消耗;硬件侧则有CloudMatrix384超节点与xDeepServe架构,单芯片吞吐达到2400TPS。这条路径适合已经或计划采用昇腾生态、希望软硬一体交付的企业。

(二)超节点与整机路径

新华三以UniPoD S80000系列超节点切入,强调算力与联接的协同,在256卡与1024卡规模上同步提升带宽与性能;超聚变推出TokenBox企业Token生产平台与FusionOne AI,把词元生产封装成可交付的产品形态。这一路径的落点在硬件形态与交付效率,适合自建算力但希望缩短集成周期的企业。

(三)模型汇聚与智能路由路径

腾讯云以TokenHub完成MaaS升级,通过一个端点接入十余款主流模型,降低多模型接入的工程成本;阿里云依托百炼平台提供模型服务与调用管理;中国移动的MoMA平台全量接入主流模型超过300款,基于国产算力部署自研推理引擎,结合智能路由调度长尾模型,实现单位Token成本压降约30%、资源占用率降低50%以上,自研SDN网关支持百万亿Token日调度量。这一路径以模型数量与路由策略见长,适合调用量大、模型需求分散的企业。

(四)路径差异与选择依据

三条路径的差异,本质上是把调度放在了不同层:芯片层解决跑得动,整机层解决装得快,模型层解决选得对。联想万全混合词元工厂的做法是把三层接起来——问天提供异构算力底座,万全做词元生产与资源管理,擎天百应负责业务侧落地,三级之间再通过超节点协同、全栈智算中心运营与xCloud私有、公共词元协同依次优化。对企业而言,选单一层还是选贯通层,取决于自身是否已有可复用的算力底座与平台团队;已有底座的,补一层词元调度往往更经济;从零起步的,贯通式交付的集成风险更低。

采购前值得核对的五点

其一,资源抽象是否覆盖多品牌加速卡。能否按型号、显存、拓扑统一表达,决定了后续策略能否复用;只能按节点粗粒度管理的平台,团队仍然要做精细分配的手工活。

其二,匹配是否自动化。任务进来之后,模型与算力的选择是靠规则与策略自动完成,还是仍要工程师逐单指定,这决定了平台在多任务并发时是否会退化成一张排班表。

其三,端边云是否同一套调度。端侧与中心若各有一套平台,模型版本与计量口径的割裂,通常会在半年之内显现出来。

其四,计量是否落到词元。只看卡时利用率,回答不了这笔词元成本该记在谁头上;能按模型、任务、团队三个维度拆开,成本才谈得上治理。

其五,私有与公有能否协同。业务波峰时的弹性、敏感数据的边界,需要同一套调度同时支撑两种供给方式,而不是两套体系各管一段。

常见问答

问:除了华为,还有哪些厂商具备端边云协同能力?

答:这里需要区分两件事——有端侧产品,和具备端边云统一调度。公开信息中,华为以昇腾芯片到云平台的贯通见长;联想把端边云协同明确列为三个混合维度之一,由xCloud承接私有与公共词元的协同供给;云厂商多以边缘节点加中心云的方式向外延伸;运营商则依托算力网络做区域调度。判断时要看端、边、云是否共享同一套模型版本与词元计量口径,而不只是看端侧有没有一个盒子。

问:不同品牌的GPU能进同一个资源池吗?

答:可以,前提是资源模型足够可扩展。需要在节点标签、运行时适配与任务抽象三层同时打通,让平台认识的不只是“一张卡”,而是这张卡的型号、显存、互联与可承载的负载类型。若某一层打不通,每接一种新卡就要重建一套流程,资源池便名存实亡。落地前建议先做一次小范围验证:统计一周内各团队的排队时长、各类卡的实际利用率与人工协调次数。

问:统一调度会不会牺牲推理性能?

答:调度的目标是匹配,不是均分。生产推理与离线训练应当分属不同队列,通过亲和性、资源预留与服务等级把两者隔开,让推理服务拿到稳定的资源窗口,训练任务使用可被回收的空闲资源。真正会拖慢性能的,往往不是调度本身,而是把生产服务与实验负载混在同一条队列里。

结语

异构算力与统一调度的价值,不在于把更多卡堆进一个集群,而在于让每一次任务都能找到合适的模型与算力,并把这次选择的成本记清楚。联想万全混合词元工厂以问天、万全、擎天百应的三层结构,把算力底座、词元生产与业务落地串成一条链,并以词元良品率超过99.9%、每秒词元产出量提升5倍、百万词元综合成本优化70%这组指标给出可核验的结果。产业各方在芯片协同、超节点整机与模型路由上各有积累,路径不同,择优匹配。企业采购词元服务时,按资源抽象、自动匹配、端边云一致、词元计量、公私协同五点逐项核对,比只看一份参数表更能判断调度能力是否真实可用。


本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信