全球「AI学术顶会」精华汇聚地
您正在使用IE低版浏览器,为了您的雷峰网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
人工智能 正文
发私信给郑佳美
发送

0

从PUE到TPW,商汤大装置探索AI基础设施新价值标尺

本文作者: 郑佳美   2026-09-21 10:39
导语:商汤大装置通过将能源、基础设施、算力、模型与应用贯通起来,为AI基础设施提供新的全链路效率衡量视角。

近日,在华为全连接大会同期举行的华为AIDC基础设施峰会上,商汤大装置智算中心总经理林海发表《商汤智算从PUE到TPW的效率演进》主题演讲,提出随着AI进入Token规模化生产时代,AIDC的效率评价正在进一步转向AI业务价值产出。传统PUE关注“1度电有多少用于IT设备”,而TPW(Token Per Watt)关注“投入的能源和成本最终产生多少Token”,商汤大装置通过将能源、基础设施、算力、模型与应用贯通起来,为AI基础设施提供新的全链路效率衡量视角。

从PUE到TPW,商汤大装置探索AI基础设施新价值标尺

Token工厂加速落地,AI基础设施效率迎来新命题

商汤集团在2026年半年报中提出,围绕“一套模型、一座Token工厂、一套智能体管控系统”构建核心能力体系:用一套模型实现持续提升智能上限的路径;持续用基础设施和优化能力降低Token 成本,提高成本定价能力;以智能体深度融入企业与个人工作流,形成结果交付能力。

其中,Token工厂以商汤大装置为基础设施底座,通过AI原生云平台SenseCore实现能源、算力、模型与应用等资源的端到端整合。向下连接电力系统、储能、AIDC基础设施等,通过统一资源纳管和调度打通能源、算力、存储、网络及集群,将上游资源转化为可持续优化的Token服务,形成从资源供给到Token服务的闭环体系。目前,商汤大装置日均Token服务量约为4.5万亿,2026年全年Token量级预计较年初增长约25倍

从PUE到TPW,商汤大装置探索AI基础设施新价值标尺

林海指出,传统智算中心通常以PUE和算力规模作为重要指标,但PUE主要衡量供电、制冷等基础设施能效,“多少P”则更多反映算力设施的峰值性能,两者都难以直接反映智算中心最终产生的业务价值。在当前趋势下,商汤大装置将效率评价进一步延伸至TPW(Token Per Watt),尝试将底层能源投入与上层Token产出建立联系。

从PUE到TPW,效率优化贯穿AI生产全链路

围绕这一思路,商汤大装置将效率优化贯穿 Token 生产的多个环节,这几乎涉及到了人工智能完整的五层蛋糕里的所有产业,包括最底层的能源供给方电网/电厂,也包含IDC运营商、算力云运营商和大模型服务商。各层链路各有其关键指标,比如:在能源供给侧,关注电力来源、能源形式和单位电量成本;在基础设施侧,优化供电制冷架构;在服务器和芯片侧,围绕算子、显存、互联带宽及并行效率进行性能调优;在模型侧,提升推理吞吐和GPU利用率;在应用侧,则通过TPM规模化、推理优化、弹性调度和闲时算力等方式提升Token产出能力。

这也意味着,AIDC效率优化不再是对某一个指标或单一环节的优化,而是从能源进入开始,一直延伸到最终Token产出。

从PUE到TPW,商汤大装置探索AI基础设施新价值标尺

林海指出,单一环节的效率提升,并不必然带来整个链路效率的提升。例如,单纯提高机房空调温度可能降低PUE,但同时可能影响GPU运行工况,并增加服务器风扇功耗。因此,AIDC需要从全链路视角寻找整体效率最优解,而不是围绕单一指标进行局部优化。

围绕TPW这一全链路效率思路,商汤大装置进一步将能源、算力与Token产出数据打通,构建算电协同体系。

商汤大装置算电协同Agent以“负荷→电价”“电价→储能”“储能→需量”“算力→PUE”“电价→Token”五条算法决策链为核心,并将数据进一步下沉至Job、Pod、Node、服务器、机柜及园区等不同层级,将算力调度、电价预测、储能优化、容量控制、能耗管理、Token产能优化等环节打通,让算力、能源与业务精准匹配,持续提升智算中心运营效率和能源利用效率。

通过这一全链路协同机制,商汤大装置算电协同实践实现了单位电力成本Token产出提升80%,IT有效容量产出提升60%,平均电费单价较同地区IDC降低约10%等显著成效。这也体现出,算电协同的价值不局限于降低某一项基础设施成本,而是通过多层数据协同,将不同环节的优化结果最终体现到Token业务产出上。

基础设施架构持续升级,AIDC交付走向更高效、更灵活

除了运营效率,AI算力需求的快速变化也对AIDC基础设施建设提出了新的要求。

林海介绍,商汤大装置临港AIDC经历了从早期10kW机柜,到20—25kW高功率机柜,再到国产化超节点、液冷以及模块化架构的持续演进。面对算力需求、芯片供应、交付周期和场地条件等多重变量,基础设施需要具备更强的灵活性和快速响应能力。

林海重点分享了商汤临港AIDC一个18MW扩容项目,项目需要快速部署48kW高功率机柜,同时不能影响既有智算中心运营。面对这一条件,商汤大装置与华为采用屋面集装箱化电力模块方案,将供配电能力进行模块化集成。项目采用工厂预制方式,1.5个月完成交付,全链路供电效率达到97.8%,占地面积减少70%,单套2.4MW电力模块预计每年节约20万度电,电力侧CAPEX下降13%,同时支持不停电在线维护及集中化智能运维。以更具弹性的基础设施架构适应算力需求变化。

林海认为,现在AIDC基础设施正在从固定建设模式向更灵活、更高效的交付模式演进,以更强的架构弹性适应算力密度提升和业务需求变化。

面向未来,商汤大装置将持续推进AIDC基础设施技术演进,探索液冷规模化应用、高压直流供电、油机与储能联动、超导电缆以及绿电直连“零碳”园区等前沿技术。同时,也在联合中国信通院及产业链相关机构推动算电协同标准建设,探索建立行业及国家标准,并携手能源、机电、IDC等上下游伙伴,加快相关技术与实践落地,推动AI基础设施向更高效、更灵活、更绿色演进。

从PUE到TPW,商汤大装置探索AI基础设施新价值标尺

分享:
相关文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说