0
| 本文作者： 徐咪 | 2026-07-19 15:21 |
7月19日，2026年世界人工智能大会正在进行中，高通公司全球副总裁、中国区研发负责人、IEEE Fellow徐晧博士出席“端侧AI创新和行业发展论坛”，并发表《智能体AI时代：计算架构与模型效率的持续创新》主题演讲。
徐晧博士指出，端侧的AI应用拥有非常广阔的前景，并系统性阐述了智能体浪潮对终端计算架构带来的范式变革。他指出，随着手机使用场景从单轮对话迈向多轮交互、再迈向智能体调度，设备所需的Token处理量正以十倍量级递增——从一万、十万到百万级，因此端云协同处理十分重要。为此，高通针对持续运行始终在线工作负载、持续的传感器数据处理和系统性协同需求，面向智能体AI打造新一代设备架构，并与面壁智能等合作伙伴持续推动在端侧模型领域的合作。
以下是演讲全文；
非常高兴和大家分享高通在端侧AI方面所做的硬件，软件，算法和系统开发以及生态合作。
这支视频带我们简单回顾了我们使用手机这一终端的方式，从最开始简单的交互，到今天支持智能体的手机。同样，能够运行智能体的终端品类多种多样，从最小的智能耳机到千瓦级的数据中心，高通不同的硬件平台可以为这一系列的智能终端提供支持。很早之前，我们就注意到面壁在端侧的布局，我们双方有很多的契合点。
接下来，我们看一下为什么端侧这么重要。这里呈现的是一个简单的统计，可以看到不同终端的市场规模在几十亿量级。大多数人现在都很注重数据中心这类大规模训练，但实际上端侧的AI应用也拥有非常广阔的前景。
可以看到，手机从简单的单轮对话、到多轮对话，再到运用智能体，其所需的token量是以十倍量级往上增加的，从一万、十万到百万级。比如，在手机端使用龙虾或者智能体要用到的token数量非常之大，现阶段是端云结合的解决方案，端侧小模型处理隐私性强需要实时处理的任务，云端处理深度推理和规划。将来越来越多的模型处理会在端侧来减少对数据传输和云端token运算的需求。
刚刚面壁的同事也介绍了，端侧模型在未来一至两年内，可以达到与几十倍算力的云端模型同样的功能，并且这个趋势还在不断发展，越来越多的大模型将迁移到端侧，以小模型的形式出现。随着硬件算力的不断提高，这些模型在端侧也将能够轻松运行。
我们看一下，从端侧硬件设计的角度来看，有哪些最重要的设计难点。
第一，在打造智能体手机时，我们需要出色的任务规划，我们通过全新的CPU来做任务规划和控制。
第二，需要随时随地处理传感器信息。以前的手机只是用户给它指令让它执行任务，它不需要24小时判断你在干什么或者你需要什么。但是智能体手机需要主动帮助你、告诉你需要做什么，需要随时感知你在什么地方，比如它感知你现在在大会现场，它可以帮你自动静音；比如它感知你进入座舱，它会自动调节成你喜欢的温度和座椅位置。这都需要有出色的低功耗传感器处理。传感器中枢会对大量的传感器做有效地处理和融合，来精确地感知环境，给智能体提供决策信息。
第三是NPU，来提供强大的模型运算功能。我们会做一系列的模型适配和优化，有效地利用NPU高效张量计算能力来处理2B到3B量级的模型在手机端侧地运行。
此外，还需要有出色的5G或6G连接。现在大部分智能体的功能是在云端运行的，因为需要大量算力，但随着越来越多的模型在端侧运行，需要端侧、云端和边缘云的协同处理，出色的无线连接功能可以把端侧的算力和云端的算力无缝连接。
接下来让我们看看，高通如何带来最有效的硬件支持。首先是高通传感器中枢，它能够为智能体提供更多数据，24小时在线了解关于你的所有信息，为大语言模型或端侧模型的输入提供情境感知，打造个人知识图谱。另一方面，我们的NPU可为端侧提供强劲算力，例如刚才提到的20 亿、30 亿参数mini CPM大模型，都能在端侧流畅运行。
这是高通最新的旗舰移动平台第五代骁龙8至尊版，今年我们还将推出更强大的移动平台，来支持所有的端侧运算；我们的座舱芯片也具备强大算力，可支持更大规模的模型，在车上稳定运行百亿以上的参数大模型。
从应用以及模型的角度来说，我们已经完成从最初的感知AI，到现在的生成式AI和智能体AI的迭代，下一阶段我们将重点推进物理AI，实现从小模型向多功能大模型的转变。我们在算法方面也做了一系列的模型在端侧的适配，比如模型压缩和量化，长上下文的处理和增强，以及端侧模型的不断学习(on device learning)。
最后是从车到机器人的演进过渡，一方面我们要将二维的规划，升级为对三维真实世界的理解；另一方面是针对更多、更复杂的应用场景进行优化与设计。这是我们从汽车芯片到机器人芯片领域需要开展的一系列开发工作。
高通与面壁在手机和车等方面已经有很多深度合作。我们也非常期待未来联合面壁及在座的各位合作伙伴，共同推进智能手机和多种智能终端在端侧的应用和发展。谢谢大家。
