拿到信通院这份《算力互联网体系架构研究报告(2025年)》的时候,我原本只想翻一翻目录,结果一整晚都在拿里面的架构图和我这些年实际做过的算力调度项目做对照。原因很简单:最近两年“算力”这个词被讲得太泛了,几乎每份售前PPT里都有算力资源池、云边协同、异构调度,但真正能把“算力互联网”作为一个体系讲清楚、而且愿意把体系架构摊开给人看的研究报告并不多见。
这份报告在我看来少有的几个优点是:它没有只停留在“算力很重要、大家要共建生态”的呼吁层面,而是认真讨论了算力互联网的参与者、分层结构、核心机制和关键问题,并且把物理体系和虚拟体系的边界与对应关系单独做了梳理。下面这篇内容不是对报告原文的逐字转述,而是我从一名从业者角度去拆解它的思路,并结合自己做的调度系统、算力管理平台项目补充一些工程化理解。如果你正准备做算力统一调度、跨域算力协同或者多云异构纳管,这篇应该能帮你把报告里的概念落到自己的系统设计里。
1. 《算力互联网体系架构研究报告(2025年)》到底在回答什么问题
1.1 算力资源为什么不能一直“各管各家”
我在不少企业见过这样的状况:业务部门需要大规模GPU训练,但机器在另外一个部门机房闲置;这边深夜有大把CPU算力跑批处理,那边白天的在线推理任务却在排队等资源。单看每个部门,资源利用率似乎说得过去,但从整体视角看,算力是被切碎后锁死在各处的。
过去十年的主流做法是用云平台把物理机管起来,做成虚拟机或者容器再对外租。问题是,这套模式默认“算力边界”和“管理边界”是一致的:你买了哪朵云,资源大概率就待在哪朵云里,跨云迁移、跨域共享都靠人工对接和商务谈判。算力互联网想解决的是更往前走一步的问题——不再把算力当成某一家数据中心的闲置库存,而是把它变成一种可以被发现、被寻址、被按需调度、被统一度量的资源。
从这个角度看,报告里反复强调的“体系架构”不是在画一张技术拓扑,而是在定义一套让不同归属、不同形态的算力能够流通起来的规则和接口。香农讲信息论的时候,通信的基本问题是“在一点精确地或近似地复现在另一点所选择的消息”;算力互联网的基本问题,则是如何在合适的时间,把合适的算力,以合适的成本和安全边界,提供给合适位置的用户。
1.2 “互联网”三个字不是修辞,而是范式参照
报告中提到的“互联网”很容易被当成一句口号,但细读下来,它的参照对象是非常具体的。互联网之所以能把全球海量信息连接起来,靠的不是某个超级中心统一分配内容,而是三套底层机制:统一寻址,让网络上每个资源都有唯一可解析的标识;分组路由,让数据可以选择不同路径抵达目的地;端到端协议,让异构系统之间能用同一种语言对话。
算力互联网想做的事情与此高度相似:“寻址”是给每个算力节点、每份算力能力一个可识别的标识与属性描述;“路由”是根据位置、负载、价格、时延等信息,决定一个计算任务到底去哪一组节点执行;“端到端协议”则规定了任务请求、资源预留、数据流转、结果返回的交互规范。
当然,算力比信息难“搬运”得多。信息包复制一份几乎零成本,但算力任务往往伴随数据,数据和计算之间的位置关系不能无视;信息路由面对的是相对稳定的链路状态,算力路由面对的则是时刻跳变的负载与价格。所以“算力互联网”更像是在互联网的传输逻辑之上,叠加了一层“为计算服务”的资源感知与控制逻辑。报告里的体系架构图,本质上就是在回答这层逻辑放在哪、由谁执行、和底下物理网络什么关系。
1.3 报告的定位不是设备清单,而是演进路线
读这类研究报告时,我习惯先判断它属于哪种文本:是纯技术规范、产业白皮书,还是面向政府与投资人的方向性描述。这份报告取了一个介于“技术规范”和“产业共识”之间的位置——它没有给出像HTTP那样必须逐字段遵守的协议,而是试图把算力互联网中必须存在的模块、模块之间的边界和交互方式固定下来,形成产业界能共同对话的框架。
这也意味着,读这份报告时不宜抱着“照着它就能实现一套算力互联网”的预期。更合适的方式是把它当成一张演进路线图:先理解最终目标态下系统需要哪些能力,再对照自己手里的平台缺哪些模块,然后按业务优先级逐步补齐。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 算力互联网的体系架构拆解:从底层资源到上层服务的四段式结构
2.1 最底下是算力节点层,也是物理实力的承重墙
任何算力互联网的底座,都离不开真正执行计算的设备。报告里讨论的算力节点,范围比传统服务器运维更大,既包括数据中心里的CPU通用算力、GPU与NPU等加速算力,也包括边缘侧一体机、智能终端带来的碎片化算力。
对这一层的理解,关键不在设备型号,而在“可表述性”。我们做调度系统时反复遇到一个问题:一台物理机上插了多张不同型号的GPU卡,有的支持FP32高性能,有的擅长低精度推理,有的显存大但算力密度一般,如果只用“显卡数量”来描述这台机器,上层调度器就无法做精细决策。因此算力节点层在上报状态时,至少要包含计算能力(如类型、精度、峰值算力)、存储能力(如容量、带宽、介质类型)、网络能力(如端口速率、可用带宽)和运行状态(如负载、温度、利用率)四类信息。物理层的基础打不牢,上层所有智能调度都是空中楼阁。
2.2 中间是网络连接与感知层,解决“距离”和“状态”两个问题
算力节点不是孤岛,节点之间的“距离”也不只是公里数,而是传输时延、带宽成本、抖动概率的综合度量。同样是跨地域传输,专线、公共互联网和点对点光路的表现差异巨大;同一机房内,NVMe盘到GPU卡和跨机柜走TOR交换机再到GPU卡的路径,时延和带宽也完全不同。计算任务能否高效运行,往往取决于数据能否以足够低的成本到达算力所在位置。
所以这一层承担了两个功能:连通与感知。连通是指建立节点之间的物理或逻辑链路,保证任务和数据能在约定质量下传输;感知则是指网络系统需要持续探测链路的实时状态,并且把带宽占用、时延变化、故障信息反馈给上层调度器。现在不少团队把这一层的实现寄托在SDN和智能网卡上,思路值得肯定,但我得提醒一句:网络感知数据如果和实际调度决策脱节,那它只是一堆好看的可视化大屏,并不会产生业务价值。
2.3 再往上是调度控制层,算力互联网的“大脑”所在
调度控制层是算力互联网和传统网络最本质的区别所在。传统网络只管把信息从A搬到B,至于用户为什么需要这些信息、计算在哪儿发生,网络并不知道;算力互联网则要求系统理解“我要干什么”,并据此编排算力资源。
调度控制层需要完成的职能大概有四块:一是算力注册与目录,让每个节点的能力可以被上层发现;二是任务解析与匹配,把用户提交的需求翻译成资源约束(需要多少GPU、多少内存、多低时延),再到资源目录里筛选候选;三是策略决策,在多个候选节点之间综合负载、价格、数据位置、故障率做权衡;四是任务下发与生命周期管理,保证任务真正在远端跑起来,并在异常时完成迁移或重新调度。
单说“智能调度”很容易,做起来难的地方在于跨域状态一致。全局调度器看到的是所有节点的状态快照,但状态本身有延迟;任务下发瞬间,节点可能已经满载。后面我会单独展开这一点。
2.4 最外层是服务开放层,把算力变成可被消费的产品
四段式结构里,最容易被低估的是最上层的服务开放层。很多做底层资源的人觉得“资源管好就行,业务自己来用”,但算力互联网要面向的是形形色色的用户,他们不可能每个人都懂GPU型号、内核版本、资源管理器语法。
服务开放层把底层的调度控制能力包装成稳定、易用的接口形态:用户要么通过API提交作业,要么使用控制台按需选择算力套餐,要么直接以服务目录的方式订阅某种“算力服务”。这一层的核心接口至少应该包括:任务提交接口、资源查询接口、状态查询接口、结果获取接口和计量计费接口。谁能把算力封装成水电一样的服务体验,谁就掌握了算力互联网的入口。
2.5 贯穿全程的数据面、控制面与管理面
在对架构图的解读里,我特别看重一组容易被忽略的横向概念:数据面、控制面、管理面。数据面承载真正的业务流量和计算数据;控制面负责任务路由和资源分配决策;管理面负责配置下发、状态采集、审计与计费。
三者分离的价值在于,数据流量再大也不应该阻塞控制决策,管理操作再频繁也不应该影响数据链路稳定性。我们在实际部署调度系统时,专门把探活、监控、配置下发这些管理流量放到独立通道,否则一旦业务高峰期打满带宽,管理面连故障告警都发不出去,整个系统的可靠性就无从谈起。
3. 物理体系与虚拟体系的对照:硬件底座怎样抽象成算力服务
3.1 先清点物理体系:从机房到芯片的一整条硬链路
研究报告中“物理体系”这个概念,我非常认同——因为它提醒所有人,算力互联网的实时性最终是由物理定律决定的。物理体系大致包括这么几层:
- 设施层:机房供电、制冷、机柜空间、布线、防灾;
- 设备层:服务器、存储阵列、交换机、光传输设备、防火墙和负载均衡设备;
- 算力器件层:CPU、GPU、NPU、FPGA、DPU、SSD、内存等;
- 物理网络层:数据中心内部络、DCI互联链路、跨区域网络。
物理体系的特点是确定性强、改造周期长、替换成本高。一台GPU服务器的采购交付周期往往在数月以上;一条新的跨地域链路从申请到开通,快则数周,慢则数月。算力互联网做任何上层抽象,都必须尊重物理体系的这些约束。
3.2 再看虚拟体系:逻辑资源如何被组织与编排
虚拟体系或者说逻辑体系,是运行在物理体系之上的抽象层。它把物理体系的各种资源切成不同粒度,以更灵活的方式提供给上层应用。
- 计算虚拟化:通过虚拟机、容器、裸金属等形态,把物理机抽象成可弹性伸缩的计算资源;
- 网络虚拟化:通过VPC、Overlay隧道、SDN控制器,让逻辑网络拓扑与物理拓扑解耦;
- 存储虚拟化:通过分布式存储、对象存储、缓存层,把分散的磁盘聚合成统一的存储空间;
- 资源目录与调度:将虚拟化后的资源注册成服务目录,由调度平台统一分配;
- 服务编排:把计算、存储、网络按业务模板组合成端到端的服务链。
虚拟体系的优势是灵活、可编排、可按需伸缩;代价则是每一次抽象都会引入新的损耗与不确定性。虚拟机和容器本身就有性能开销,Overlay网络会带来额外封装与转发延迟,分布式存储的副本机制会放大延迟波动。虚拟体系给出的是“逻辑可行性”,物理体系决定的是“实际性能边界”,二者缺一不可。
3.3 两张图对照着看,抽象关系一目了然
我在看报告时习惯把物理体系和虚拟体系放在同一张表格里对照,这样更容易理解每一层虚拟化抽象得到底是什么东西:
| 物理体系要素 | 虚拟体系对应物 | 抽象方式 | 需要解决的关键问题 |
|---|---|---|---|
| GPU服务器 | GPU资源池/算力实例 | 驱动层虚拟化、容器封装 | 价格、时延与算力损耗的权衡 |
| 物理网络链路 | Overlay虚拟网络 | VXLAN/分段路由等隧道 | 性能损耗与网络故障定位难度 |
| 存储阵列 | 分布式/对象存储 | 元数据服务+数据分片 | 数据一致性与访问延迟 |
| 数据中心 | 资源域/可用区 | 逻辑分组与故障隔离 | 多数据中心容灾切换策略 |
| 算力设备运行状态 | 注册中心状态数据 | 带外采集+监控代理上报 | 状态真实性与更新延迟 |
| 物理安全边界 | 虚拟云边界与信任域 | 身份认证+VPC隔离+加密 | 零信任粒度与合规审计 |
表格里最后一行最容易被忽视:物理体系的安全边界在机房围墙、门禁和物理隔离;虚拟体系的安全边界则全靠身份、证书、网络策略和加密算法维系。前者一旦被突破,影响范围集中在单一物理区域;后者一旦密钥或权限系统出问题,攻击者理论上可以在任意逻辑位置发起行动。做虚拟体系设计时,对安全边界的建模必须比物理时代更警惕。
3.4 为什么虚拟化封装不能替代物理拓扑感知
有一类架构方案,试图用纯虚拟化思路解决一切:把全网的算力资源抽象成一个巨大的资源池,上层调度器只关心逻辑资源,不关心任务到底跑在哪个物理节点上。这个思路在同一个数据中心内部大体可行,但在算力互联网的跨域场景里会碰壁,原因有三点:
第一,数据位置感知问题。训练任务可能依赖一大份数据集,这份数据放在A机房,而调度器把任务分配给了B机房。如果B机房的网络带宽不够,传输时间会远超计算时间,逻辑上的“最优分配”就会变成实际上的“最差选择”。调度器必须知道数据的物理位置和网络链路的真实能力。
第二,成本与计量问题。跨域算力通常不是一个价格池,不同节点的电费、折旧、带宽费用差异很大;虚拟资源池把物理差异抹平后,计费模型缺乏定价依据,用户也无法对不同节点做成本选择。
第三,故障域问题。虚拟网络上的一个逻辑连接,底层可能跨越了多个物理链路。某段光纤中断导致业务受损时,如果上层没有物理拓扑信息,排障只能靠逐层猜测,恢复时间会成倍拉长。物理体系和虚拟体系必须互为参照,不能只站在任意一边做设计。
4. 一个计算任务在算力互联网里流转的完整闭环
4.1 任务提交与能力描述:把“要做的事”讲清楚
架构落到运行时的第一件事,是让系统理解用户想干什么。传统作业提交脚本只描述“用什么资源、跑什么命令”,而算力互联网场景下,用户往往说不清楚到底需要多少资源。比如一个用户说“我要做2小时的视频渲染”,可能他只需要一张中端GPU,也可能因为特效复杂需要四张高端GPU;如果让他自己填资源规格,要么过度申请浪费成本,要么规格不够任务失败。
更合理的做法是让任务描述包含业务属性而不是硬件属性:数据规模、计算类型、期望完成时间、预算上限、对时延和可靠性的容忍度。系统收到这些信息后,通过历史任务画像或请求静态分析,自动推断所需算力规格,再交给调度层处理。我们内部把这个环节称作“需求归一化”,它把五花八门的业务请求转换成可以被调度器理解的标准约束,是整个闭环里最考验抽象能力的一步。
4.2 算力寻址与路由:找到“离得近且有资源”的节点
当任务被翻译成资源约束后,调度器需要在算力目录里寻找符合条件的节点。对应前文的互联网类比,这就是算力路由要解决的寻址和选路问题。
在做路由决策时,至少需要考虑四个因素的综合结果:资源匹配度(节点有没有足量的空闲算力)、数据距离(任务依赖的数据离节点多远,传输成本多高)、交付质量(网络链路是否满足时延与带宽需求)、综合成本(算力单价与传输成本之和)。
举个例子:用户在上海提交了一个模型微调任务,训练数据目前在同一个可用区内。系统发现附近算力节点繁忙、排队时间超过两小时,而另一地节点空闲但带宽价格昂贵。好的调度策略不会只挑便宜或者只挑空闲,而会建模计算“排队等待成本+远端传输成本+执行成本”的总期望,选择总成本最低的方案。如果传输时间为0.5小时且执行时间为1小时,排队省下的时间被传输吃掉大半,附近节点反而可能更优。
4.3 算力执行为什么绕不开异构适配
任务被路由到远端节点后,真正执行时立刻会撞上异构兼容问题。不同厂商的GPU、NPU拥有各自的驱动、加速库和编程框架,哪怕是同一套PyTorch代码,在NVIDIA和华为昇腾上运行也需要不同的适配与编译过程。
算力互联网不可能要求全行业只用一个厂商的芯片,更不可能让每个用户为每类芯片单独维护一套代码。行业里的妥协方案是在应用层之下增加一层统一的算力抽象接口,把任务中通用的算子映射到不同芯片的底层实现。做这类抽象时,一定不要追求所有算子百分之百一致,业务里真正高频的核心算子可能只占全体的20%,却撑起80%的计算量;先对这20%做深度优化,比追求全算子覆盖更现实。
异构适配最终要解决的,是让上层任务的描述与底层芯片的差异脱钩。调度器不应该因为某个节点用了某品牌芯片就不敢调度任务,运行系统更不应该要求用户理解每个节点的驱动配置。
4.4 结果返还与度量:一次闭环的收尾
任务执行完成后,系统还需要完成一系列容易被忽视的动作:结果数据回传、算力使用计量、计费结算、运行日志归档。如果少了计量环节,整个算力互联网的商业模式就无法成立。
度量指标在设计中就要提前定义好:按时间计费(GPU卡时数)、按任务计费(每次推理调用包)、按结果计费(渲染完成的作品)会有完全不同的计量采集方式。而这个过程中暴露的可观测性数据,例如排队等待时长、资源申请到实际分配的差距、任务实际资源利用率,又会被反馈到调度策略的下一轮迭代里。所以整个闭环实际上是一个持续学习的过程,不是一个单向的任务流水线。
5. 从报告架构到真实落地,最容易被低估的五个问题
5.1 异构算力的“度量衡”到底以谁为准
算力互联网要跨厂商、跨区域调度,首先得回答一个听着基础但实际难倒很多人的问题:这一张GPU卡,到底等于多少“标准算力”?
不同芯片的设计目标不同:有的追求FP32高精度矩阵运算,有的在低精度推理上能效特别高,有的强项是视频编解码。拿跑分工具测出来的绝对性能,并不能等于用户在真实业务中的体验。即便是同一个模型,在不同架构芯片上的实际吞吐也可能差出数倍。如果平台只按“卡数”或“理论算力”结算,用户很容易买到理论漂亮但跑不动业务的资源。
我见过比较务实的做法是引入三类度量维度:基准算力(统一测试集跑分)、业务匹配度(与用户典型负载的真实契合度)、体验指标(任务延迟、排队时间、成功率)。向用户展示算力时,不要只给一个冷冰冰的数字,多给一组真实业务类型的作证数据,信任感会强得多。
5.2 跨域调度一致性:状态同步的延迟是系统性难题
在一套分布式平台上做调度,最容易踩的坑是“状态快照过期”。全局调度器从各节点收到的负载数据总有秒级甚至分钟级的延迟,多个节点并行上报时状态还会出现先后冲突。最尴尬的一种故障是被业内称为“惊群”的现象:某个节点发布空闲消息后,大量任务同时被调度过来,节点瞬时过载,紧接着又发布满载消息,后续任务又被挤到其他节点,形成来回抖动。
缓解这类问题,业界有几个实用手段:一是缩小调度器直接管理的范围,用分区域两级的树状结构替代一个中心点收集所有节点状态的模式;二是为每个状态设置“置信过期时间”,超过时限未续期的节点视为状态未知,不再参与该轮调度;三是在调度器中引入基于历史数据的预测模型,而不是只看最新状态。这三点虽然解决不了根本性的信息延迟,但能把抖动控制在可接受范围内。
5.3 数据边界让“最优调度”经常不可执行
从纯调度算法角度看,把任务派到算力最充足的地方就是最优解。但现实中,数据往往带了严格的所有权边界:有些数据只能在指定范围内处理,有些数据有审计要求,不允许被复制到其他平台。
这会导致一个局面:算法排出来的最优解列表里,相当一部分节点根本没有资格接收任务。如果架构在设计“算力路由”时没有把数据边界、信任关系与资格约束纳入路由条件,后续所有优化策略都会失效。真正可用的调度系统,必须支持把“数据在哪里可以访问”作为硬性约束,在寻址阶段做前置过滤,而不是在所有任务已经派发之后再去检查合规性。
5.4 可观测性设计做不足,架构越复杂反而越脆弱
算力互联网架构比单一数据中心的云平台复杂得多:资源跨域、调度跨层、链路跨节点。在这种系统里,如果没有一套从物理设备到虚拟资源再到业务任务贯通的观测体系,出了问题就只能靠各环节日志人工拼接现场,效率极低。
可观测性建设我建议从第一天就统一三类数据:链路追踪(某个任务在哪些节点、哪些网络路径上经历了什么,各阶段花了多少时间)、指标(节点负载、队列长度、网络时延、成功率、利用率)、日志(各模块详细运行记录,按任务ID可以线性检索)。三者缺一不可,只有指标对不上某个任务的时候,靠追踪和日志才能定位真正的原因。观测数据同时也是调度策略迭代的输入,观测能力和调度能力是互为表里的关系。
5.5 标准与生态的赛跑:先有鸡还是先有蛋
通信时代一个统一的标准可以让全球设备互联互通,但算力互联网要统一的对象不只是网络协议,还包括资源描述、任务格式、接口语义、度量口径,每一环都涉及不同厂商的既有利益和技术路线。报告的体系架构之所以有价值,正是因为它在生态尚未定型时给出一个可以讨论的“最大公约数框架”。
对厂商来说,积极参与标准讨论比独自闷头研发重要得多;对用户来说,采购系统前先确认平台是否支持开放接口和可替换组件,比绑定某个厂商的独占协议安全得多。架构图画得再完整,也要靠生态里的每个角色共同把接口真做出来,才谈得上真正的互联互通。
6. 算力互联网对不同角色的实际影响与应对思路
6.1 算力设施拥有方:开放能力比堆机器更能提升资产价值
如果你运营数据中心或算力集群,过去的主要矛盾是把自有业务跑好,剩余资源随缘出租。算力互联网的逻辑下,任何一台闲置设备都有机会成为全网调度范围内的资源供给点,但前提是这台设备“可被安全地开放”。
所谓可开放,不是把SSH账号交给外部,而是要做到:资源可度量,API能查可用算力与实时负载;环境可隔离,租户之间的数据与网络完全隔离;策略可控制,所有者能设置什么任务可以跑、什么时间段允许被调度、最高资源占用上限是多少;退出可执行,随时可以收回资源且不影响已有租户任务。把这四项做好,比再买一批服务器对资产利用率的提升更大。
6.2 平台与集成商:从交付项目转向运营服务
对做算力管理平台、云管平台的团队来说,算力互联网意味着一次商业模式升级的机会。过去做一套私有云平台,交付完、培训完、验收完基本就结束;但算力互联网是持续运行的新型基础设施,平台方的价值重心会从“一次性定制交付”转向“持续运营与质量保障”。
具体来说,团队需要沉淀的能力包括:跨域资源目录的动态维护、调度策略库的行业模板沉淀、任务性能的基准测试与优化建议、计费与成本分析工具。谁能把这些能力产品化,谁就能在算力互联网的生态位里从“施工队”变成“运营商”。
6.3 行业用户:评估计算负载的“可协同度”,别盲目跟风
对最终使用算力的企业用户,我的建议反而是冷静一点。算力互联网的收益不是对所有任务都成立的,那些数据体量极大、对低时延极其敏感、或受法规约束很强的业务,短时间内在跨域协同里能获得的收益相对有限。
企业应该先把自己的计算负载分个类:第一类是本地处理为主的任务,比如实时推理、数据库查询,这类任务的网络敏感度太高,不适合跨域调度;第二类是可以弹性调度的任务,比如大规模离线训练、批量数据分析,这类任务天然适合在算力互联网上寻找更优的资源;第三类是突发峰值任务,比如营销活动或新版本发布时的暴增请求,这类任务最适合临时借助外部算力弹性补充。
把负载分类之后再看报告的体系架构,你会更容易判断哪些模块与自己相关:如果想利用外部算力,重点关注服务开放层和任务提交规范;如果想把自家资源贡献出去,重点投入方向则在节点的可度量与安全开放能力上。
6.4 我个人在落地这类架构时的几点体会
最后聊几点实操层面的经验。第一,不要一开始就追求全局统一调度,可以先从两三个节点域之间的互联互通做起,把数据面、控制面、管理面的接口跑通,再逐步扩大范围。第二,接口设计要优先保证“新增一个算力节点”足够轻量,如果接入一个节点要几周的人工配置,说明抽象层的设计还不够干净。第三,所有调度策略先做离线仿真,再上生产;把历史任务数据回放一遍,是验证调度算法最便宜的方式。第四,安全设计千万别留到最后,任务在多个域之间流转后,身份认证和审计追踪的复杂度会指数级上升,起步阶段就把信任模型定好,后面能少非常多麻烦。
算力互联网这份体系架构报告给行业的,与其说是一张立刻可以施工的图纸,不如说是一个让各方对表的机会。架构的价值不在于图多漂亮,而在于它能帮助每个参与者在自己的工程决策里少走弯路。接下来几年,谁能在物理体系与虚拟体系的交界处把接口做扎实,谁就有机会在下一轮算力基础设施升级里占据主动。
