技术升级、算电协同推动算力普惠
● 本报记者郑萃颖
随着AI算力需求不断增长,高质量、低成本的算力供给成为市场所需。如今,词元(Token)成为衡量算力消耗的最小单位,“Token工厂”则是将AI基础设施、模型和电力能源相结合,提供算力服务。在2026世界人工智能大会上,行业企业通过基础设施能力提升、算电协同、算力调度优化等方式,推动算力普惠。
技术升级降低算力成本
合肥中科类脑智能技术有限公司副总经理、算力Token运营事业部总经理常峰告诉记者,具备低成本、规模化的AI算力供给能力,将是未来全球AI基础设施领域最重要的竞争壁垒。
中科类脑研究院院长丁海松介绍,通过提升国产芯片性能,依托高效KV Cache(键值缓存)管理、动态PD分离(预填充与解码分离)节点优化等前沿技术,可最大化提升设备的Token吞吐效率。
新华三集团AI解决方案专家杨新安表示,网络设备、存储机制是影响算力成本的关键因素,“800G网络较400G网络可显著提升相同算力下的Token吞吐量。”在存储机制上,通过分级缓存可以降低算力成本。
算力架构同样影响算力成本。在本届大会上,商汤科技展出的商汤大装置通过异构混合推理,使整体推理性价比提升,同样成本下算力产出规模扩大2.5倍。太初(杭州)集成电路有限公司(简称“太初元碁”)采用HCU异构融合计算架构,CPU与AI算力核通过统一高速总线互联,配合共享分级存储架构,提升整体效率。
太初元碁CEO杨晋喆认为,当前算力产业已从单卡性能比拼进入系统级竞争阶段,模型参数突破万亿级、“Token工厂”向吉瓦级演进,降低单位算力成本成为核心命题。
算电协同提升能效
降低算力成本的另一条路径是降低用能成本,其核心在于算电协同。
中科类脑算电一体化平台可基于分时电价、风光发电实时波动,灵活迁移算力任务负载,主动错峰使用低价清洁能源,从源头压缩算力用电成本。中科类脑董事长兼总经理刘海峰介绍,一个1000P(PFLOPS)标准算力集群年度总耗电量约2000万度,依托平台优化可节约20%用电量,每年预计可辅助算力集群减少400万度电力开支。
润建股份(002929)通过RunDoBidder虚拟电厂和RunDoGrid智能微电网管理系统实现算电协同。公司相关负责人介绍,微电网汇聚分布式光伏、风电、储能等资源,通过在线数据监测实现统一管理,根据对算力中心的任务分析与负荷预测,数据传输至虚拟电厂,虚拟电厂结合电价预测生成调度策略,再下发调度优化指令。湖南某园区引入微电网平台后,每年因能源利用率、运维效率提升,产生效益约100万元。
中兴通讯在本届大会期间展出了算电协同、源网荷储一体化AIDC整体解决方案,通过电力、算力、热力融合管理,实现全域统一调度,提升单位电力与算力产出,使每一度电支撑更多AI Token计算。
商汤科技则在本届大会期间发布算电协同Agent,基于算力、电力、Agent三位一体体系,使商汤大装置实现单位电量Token产出提升80%、平均电费单价低于同地区数据中心的约10%。
“Token工厂”优化算力使用
除了基础设施升级与算电协同,“Token工厂”正通过优化算力调度、算力运营来提升算力使用效率。
百度智能云将原有的“MaaS模型服务”升级为“Token工厂”,尽可能减少Token重复计算,推理生成速度较市场水平提升约25%,同时支持多款国产主流模型的调用,提高算力服务性价比。
杨新安介绍,新华三集团通过优化服务机制,充分发挥算力效能。例如,根据用户付费水平分配不同等级的模型服务,根据问题复杂程度匹配相应模型,在保障输出质量的同时减少Token消耗。企业或工厂可通过后台界面查看每个Token的具体使用路径、成本与计费详情,管理日常运营中的算力成本。
所有文章未经授权禁止转载、摘编、复制或建立镜像,违规转载法律必究。
举报邮箱:1002263188@qq.com
下一篇:“星枢计划”首发星座正式发布