过去两年,AI算力的叙事关键词一直是"芯片"——谁的FLOPS更高、显存更大。但当大模型参数量以百倍级扩张,MoE稀疏架构与Agentic智能体应用兴起时,一个更本质的问题浮出水面:把一堆高性能芯片用传统以太网RoCE堆叠成集群,往往跑不满、也扩不动。

瓶颈不在算力本身,而在算、网、存三者协同。跨节点通信时延高形成"通信墙",显存与内存割裂形成"内存墙",集群调度粗放导致算力利用率(MFU)长期受限。三重墙叠加之下,新一代芯片的能力被层层稀释。这正是"超节点"(SuperPod)从概念走向产业共识的原因——通过专用高速总线把多台物理节点整合成一台"逻辑大计算机",被视为大规模训推任务的最优解。

对企业自建AI算力平台而言,选型时建议把握几点:一是重视网络而非只看算力,训练集群建议采用支持RoCE或专用高速互联的低时延网络,避免"算得动、传不动";二是关注显存与内存的配比,长上下文推理与多模态应用对显存带宽、KV Cache容量极为敏感;三是算力服务器优先考虑风冷/液冷散热设计与整机交付能力,液冷正成为高功率密度集群的标配;四是预留国产化兼容空间,麒麟、统信等操作系统与昇腾、海光等国产加速卡的适配正加速成熟。

对数据中心而言,供电、制冷、折旧成本正取代芯片本身成为真正的账本——每100元AI数据中心支出中,约60元用于GPU折旧。算力建设正从"抢卡"走向"经营算力",理性规划TCO比盲目堆卡更重要。

(本文为睿恒信息技术解读,结合当前AI算力产业趋势分析)