中兴通讯王卫斌谈超节点 追求词元效率

中兴通讯王卫斌谈超节点。中兴通讯产品规划首席科学家王卫斌在接受采访时用了一个比喻，描述了他眼中下一代AI基础设施的形态：如果很多人同时向大模型提问，而大模型仍能应对自如，这就是算力层面追求的目标。过去几年，大模型竞争主要围绕参数规模和GPU算力展开，但随着智能体快速普及，一个复杂任务往往需要调用数十甚至上百次模型，多个智能体协同执行也导致词元消耗持续攀升。AI产业开始意识到，真正决定用户体验的，不仅是模型能否回答问题，还包括以更低成本、更快速度持续输出词元的能力。

王卫斌认为，这标志着AI基础设施竞争逻辑的一次转变。随着智能体推动词元经济快速发展，行业竞争正从单芯片创新转向系统工程创新，从追求算力规模转向追求词元效率。为此，国产厂商采取多要素协同、开放互连的策略，推出超节点方案成为关键一环。

今年成为国产超节点方案集中面市的关键一年。这一现象背后的原因在于需求侧与供给侧的共同驱动。在需求侧，大模型架构的变化是主要原因。过去几年，大模型不断向万亿甚至更大参数规模演进，混合专家（MoE）架构逐渐成为主流。相比传统稠密模型，MoE模型虽然降低了计算成本，但带来了更频繁的数据交换需求。每次词元生成都需要不同GPU之间同步参数、交换数据，导致GPU等待通信的时间越来越长。此外，AI训练和推理过程中广泛使用的稀疏技术对算力提出了更高要求。

这意味着，传统的依靠8卡服务器横向扩容的方式已难以释放GPU的全部有效算力。多位业内人士表示，在建设大规模智算集群时，即使部署大量GPU，由于跨节点通信效率不足，实际算力利用率仍有较大提升空间。因此，行业竞争开始从“拥有多少GPU”转向“如何让GPU协同工作得更高效”。