1. Omdia数据解读:29%增长背后的产业信号
先说结论:Omdia这份2025年第四季度全球云基础设施支出报告,表面看是“云厂商花钱更猛了”,实际上是在宣告一个产业周期的拐点——AI基础设施已经不再是云厂商的“试点项目”,而是直接决定了下一轮竞争的排位赛。
29%这个数字,很多人第一反应是“云市场回暖”,但我更倾向于把它理解为“结构性提速”。传统企业上云带来的采购增量,早几年就已经进入平稳期,真正拉动大盘跳到29%的,是AI算力集群的大规模部署。简单拆一下这个逻辑:云基础设施支出包括服务器、存储、网络设备、数据中心建设等硬件投入,其中GPU服务器和AI加速器的采购占比在2025年下半年明显飙升。Omdia的数据口径里,只要头部云厂商在批量上架AI训练集群,整体支出就会立刻被拉高。
另外一个关键点是时间窗口。第四季度向来是云厂商的“集中交付季”,既要完成全年预算的冲量,又要为下一年度的算力储备提前下单。2025年Q4叠加了多个大模型训练集群的扩容周期,所以29%不仅是季度波动,更是一个可持续数年的增长通道的开端。
作为常年跟云基础设施打交道的人,我关注的不只是“涨了多少”,而是钱花在了哪里。从Omdia以及多家第三方机构的交叉数据来看,这轮支出增长有几个明显特征:
- 头部集中度进一步加剧:前五大云厂商贡献了大部分增量,中小型云服务商的采购节奏相对温和;
- 电力与散热成为新的瓶颈:不少云厂商的采购预算开始从“买GPU”向“改造数据中心供配电和液冷系统”倾斜;
- 自研芯片的占比在上升:为了对冲GPU采购成本和供货周期的不确定性,头部厂商在ASIC和自研加速卡上的投入明显加快。
这些特征叠加在一起,指向一个更底层的判断:AI基础设施正在从“能用”走向“好用”,而“好用”的代价就是持续、高强度、系统性的资本开支。这篇文章,我就结合这份报告的数据,把AI基础设施的构成、云厂商的布局逻辑、以及运维工程师在这个浪潮里的机会,逐层拆开聊一聊。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. AI基础设施的硬件全景拆解
既然聊AI基础设施,就不能只停留在“买了很多GPU”这种粗颗粒度的认知层面。一套真正支撑大模型训练和推理的云基础设施,从底层到上层至少包含五个子系统,任何一个环节的短板,都会让GPU的算力打折扣。
2.1 GPU算力池:训练集群与推理集群的差异化配置
GPU服务器是AI基础设施的核心,但训练和推理场景对硬件的要求截然不同。
训练集群追求的是“高带宽、低延迟、大规模并行”。以NVIDIA H800/A100级别的集群为例,单台8卡服务器搭配NVLink和InfiniBand网络,才能支撑千亿级参数模型的梯度同步。这里有一个容易被忽视的点:训练集群的规模效应非常明显,1000张卡和5000张卡的集群,单卡效率会有显著差异。因为模型并行和数据并行的通信开销,只有集群大到一定程度才能被有效摊薄。
推理集群则更看重“吞吐量”和“延迟”的平衡。上线一个面向用户的大模型服务,不需要几千张卡同时跑一个任务,而是要把模型切分成多个副本部署,让每张卡独立处理请求。这时候GPU的选型就倾向于性价比更高的型号,甚至可以考虑用FPGA或专用推理芯片替代。我在实际项目中见过不少团队,一上来就买最贵的训练卡来跑推理,结果成本翻了几倍,利用率却不到30%,这就是典型的“装备过剩”。
2.2 高性能网络:决定集群规模的隐形天花板
谈到AI基础设施,人们总是先看GPU,但真正决定一个集群能“堆多大”的,往往是网络架构。一张GPU卡算得再快,如果数据传不出去,整体算力就会被通信瓶颈锁死。
目前主流的AI集群网络方案主要是InfiniBand和RoCE(RDMA over Converged Ethernet)两条路线。InfiniBand延迟低、丢包率极低,但成本很高,而且对交换机硬件的绑定比较深;RoCE则构建在以太网之上,兼容性好、成本可控,但需要非常精细的流控和拥塞控制配置。以400G/800G以太网为底座的RoCE方案,在2025年的云厂商部署中占比越来越高,原因也简单——弹性更好,能跟现有的VPC网络打通。
这里我多说一句:网络调优直接决定了DPU(数据处理单元)要不要上车。当集群规模超过几百张卡,CPU处理网络协议栈的开销就会明显侵占计算资源。很多云厂商在AI服务器上标配DPU,把存储和网络的I/O处理从CPU上卸载掉,效果立竿见影。如果你在规划AI集群,不要只看GPU数量和型号,网络方案和DPU选型同样要提前定,不然后期改造的代价是灾难级别的。
