0
如果只看今天端侧AI芯片的热门叙事,NPU几乎是绕不开的主角。
大模型从云端向手机、PC、机器人等终端下沉,芯片厂商不断刷新TOPS,围绕Transformer、增加专用加速能力。一颗新的端侧AI芯片,似乎应该尽可能把有限的晶体管留给NPU。
诚恒微却在首款旗舰SoC上做了一个不同的选择。
近期在无锡举行的CH37系列边端侧AI SoC产品发布会上,诚恒微正式发布CH3715。除了48 TOPS INT8的六核NPU,CH375还集成了10核CPU(含4大4小主核及2个R8实时控制核,R8核频率达800MHz)、自研渲染GPU(358 GFLOPS)、六核NPU(48 TOPS INT8/24 TOPS FP16)、四核GPGPU(1 TFLOPS FP32,兼容CUDA生态)、双核DSP及自研FFT硬件加速器。
为什么一颗端侧AI芯片,需要同时拥有NPU和GPGPU?

诚恒微CEO楚立斌
诚恒微CEO楚立斌对雷峰网(公众号:雷峰网)表示,“CH3715的产品定义其实始于2022年。彼时ChatGPT尚未发布,具身智能也没有成为芯片行业追逐的热点,我们首先看到的是机器视觉、雷达、工业设备里一些长期没有被单颗芯片很好满足的需求:既需要AI算力,也需要高精度计算、图像处理和低时延,客户往往只能通过多颗芯片组成一套系统。“
因此,诚恒微第一代旗舰AI SoC的目标,就是尽可能把这些分散的计算能力集成到一颗SoC里。
NPU负责AI,但真实世界还需要GPGPU
2022年定义CH3715时,诚恒微首先盯上的是智能视觉。
在一些高清图像、大范围目标识别场景中,客户不仅需要更高的AI推理算力,还要求更强的图像处理能力、更低的端到端时延,以及可见光、红外等多种传感器数据的处理能力。
双光、高清和低时延成为CH3715最早确定的几个产品目标,NPU算力最终被定在48 TOPS。
NPU擅长神经网络推理,但真实设备还要处理大量传统计算。例如复杂视觉环境中的一些算法需要更高精度的浮点计算;雷达需要FFT和信号处理;机器人除了识别环境,还涉及几何计算和实时控制。

这也是CH3715最终同时加入NPU和GPGPU的直接原因。在部分复杂场景中,只用INT8精度并不能覆盖全部算法,仍然需要GPGPU提供更高精度的浮点计算能力,而GPGPU的价值更在于其灵活性和较低的迁移成本。
因此在CH3715中,NPU承担神经网络推理,GPGPU负责高精度、可编程并行计算,DSP处理信号计算,ISP负责图像输入,CPU则承担任务调度和系统控制。诚恒微将这套思路概括为“异构计算,一体架构”。
这代表的是端侧AI真正面对的不是一种计算任务,而是一组同时存在的异构计算负载。
如果这些计算仍然由不同芯片完成,数据需要不断跨芯片搬运,不仅增加带宽、功耗和时延,不同平台独立的软件和工具链也会增加系统集成成本。
CH3715想做的并不是简单增加几个计算单元,而是把原本分散在一块主板上的异构计算能力尽可能集成到同一颗SoC。
一颗芯片,替掉原来的多芯片组合,这也是CH3715的一个明显特点——高集成度。
除了NPU和GPGPU,CH3715还集成CPU、DSP、FFT、VPU、双ISP等多种处理单元,并提供PCIe 4.0、万兆以太网等高速接口。
楚立斌表示,“诚恒微第一代产品并不是瞄准那些一颗普通SoC已经能够很好解决的需求,而是优先寻找原本就需要多芯片组合的场景,希望用一颗芯片替掉过去两三颗芯片才能完成的工作。“
例如在部分机器视觉场景中,单颗SoC无法同时满足AI算力和图像处理需求,客户需要增加额外的AI计算芯片;一些对实时信号处理要求较高的行业,则长期采用DSP与FPGA等组合。
芯片数量增加以后,供电、存储、外围电路都会变得更加复杂,PCB面积和功耗上升,数据跨芯片传输也会进一步影响时延。
楚立斌认为,CH3715的商业价值不能简单比较单颗芯片售价,更重要的是计算整套方案的成本——原来需要多少颗芯片、多少外围器件,以及软件开发和系统适配需要投入多少成本。
这一逻辑在一些既有算法资产较重的客户身上更加明显。
部分客户长期积累了运行在DSP和FPGA上的算法,传统方案增加新的AI能力并不容易。楚立斌透露,“诚恒微已经帮助部分客户迁移过去多年积累的算法,在一些项目中,一到两个月可以完成主要迁移工作,让传统高精度计算和AI推理运行在同一套平台上。“

诚恒微副总经理、CTO林苍松
诚恒微副总经理、CTO林苍松在发布上分享,通过多个视觉处理模块单芯片集成,系统数据吞吐效率可提升50%以上,功耗降低30%,整机体积缩减40%。

这些数据仍需要在更多真实应用中验证,但至少解释了CH3715选择高集成度不是目的,目标是用一颗芯片简化原有系统。
第一代产品同时也是对团队工程能力的一次验证。
诚恒微成立于2023年,核心研发团队拥有多款芯片设计和量产经验,但成员背景不同。楚立斌透露,“CH3715真正用于设计的时间大约一年半,通过这样一颗复杂SoC,团队也完成了从产品定义、架构设计到前后端和软件的一次完整磨合。”
第一代产品的高集成并不意味着诚恒微未来的芯片会不断增加计算单元。
第一代做加法,下一代开始做减法同时做专项增强
随着CH3715开始导入客户,哪些模块使用频率最高、哪些场景能够形成规模、哪些能力真正值得保留,会逐渐变得清楚。
楚立斌透露,“下一代产品会做减法,同时重点改善内存带宽,但AI算力不会因此下降。”
诚恒微仍计划把下一代芯片的AI算力推向更高水平,同时明显缩小芯片面积,目标成本约为第一代的一半。
在楚立斌看来,“10—20 TOPS左右的端侧芯片市场已经相当拥挤。随着端侧模型越来越复杂,以及工艺升级改善能效,未来更多端侧和边缘设备将需要更大算力的芯片支撑。”
另一个变化来自AI需求的变化。
定义CH3715时,具身智能还没有成为显著需求。几年之后,机器人对于LLM、VLM、VLA等大模型的需求迅速增加,这也为下一代产品的演进提供了清晰的方向。
诚恒微下一代产品会更加关注具身智能方向,但仍以机器视觉作为主线。视觉处理本身也会从传统小模型逐渐向VLM、VLA、LLM演进,并进一步延伸到机器人感知、决策和执行。
楚立斌指出,目前大量工业机械臂仍按照固定程序运行,未来随着视觉感知、自主执行和算法能力提升,同样会需要更强的本地计算。具身智能的各类终端对芯片的需求本质上是趋同的——多路视觉接入、端侧AI推理、实时控制与低延迟响应。
从工业质检、智能视觉到具身智能,诚恒微希望形成一条连续的产品路线。
第一代首先解决“哪些能力需要集成到一颗芯片里”,下一代则进一步回答“有限的芯片面积应该优先留给哪些能力”。
第一代产品推向市场之后,诚恒微还要面对另一个现实问题:一家刚推出第一代芯片的公司,如何让客户愿意迁移?
如何降低客户换芯片的成本?
对于已经形成稳定产品的软件和方案公司而言,更换底层芯片意味着重新适配驱动、算法、工具链乃至整个系统。即使新芯片参数更高,如果迁移周期和工程风险过大,客户依然可能继续使用原有平台。
生态不可能一蹴而就。因此,诚恒微没有把第一阶段目标设定为迅速建立覆盖所有开发者的通用生态,而是优先降低客户切换平台的门槛。
一个直接方法就是API兼容。
楚立斌表示,“诚恒微在设计SDK时,会在API层尽可能兼容客户已经熟悉的主流端侧SoC平台,降低既有代码和算法的迁移成本。”
这背后的考虑很现实:成熟端侧SoC平台已经用了十几年甚至更长时间积累客户、软件和合作伙伴,一家新的芯片公司不可能在几年内重新复制一遍。
诚恒微的市场策略也和其生态策略一样明确。

诚恒微会优先进入电力巡检、轨交、工业质检等垂直行业,用更贴近客户的工程服务换取早期客户,再把项目中形成的能力逐步固化进软件平台。
同样的逻辑,也解释了为什么诚恒微现阶段会主动做模组和盒子。
发布会上,诚恒微展示了围绕CH37系列的工控主板、行业边缘计算盒子等产品。如果只把裸芯片交给客户,客户仍然需要完成核心板、软件和系统设计,新平台的导入周期会进一步拉长。
“第一代产品,我们需要先把模组甚至终端做出来,让客户能够更快看到完整方案跑起来,这也是建立市场信任的一种方式。”楚立斌说,“随着解决方案商、渠道和合作伙伴逐渐成熟,诚恒微计划逐渐把这些市场交还给下游合作伙伴,长期大部分收入仍然来自芯片。”

端侧市场竞争更加分散,芯片公司需要给方案商和合作伙伴留下足够的利润空间。对诚恒微而言,第一代产品阶段自己做模组、板卡和盒子,更像解决新品“从能用到有人用”的一段过渡路径。
从最初的产品定义,到2026年CH3715正式发布,诚恒微第一颗芯片回答的是一个看起来简单、实际复杂的问题:端侧AI芯片究竟需要什么?
如果只看AI模型,答案可能是一颗越来越大的NPU。
但走进机器视觉、雷达、工业设备和机器人这些真实场景,NPU之外依然存在大量高精度计算、信号处理、图像处理和实时控制任务。这也是诚恒微最终选择NPU+GPGPU,并把多种计算单元集成进一颗SoC的原因。
而CH3715之后更值得观察的问题,已经从“还能塞进多少计算单元”,变成了:经过第一代产品的市场验证之后,诚恒微最终会留下什么,又会砍掉什么。
对端侧AI芯片而言,做出更多功能并不是最难的事情。如何在真实场景中找到最值得留下的那部分计算能力才是产品定义真正开始成熟的标志。
雷峰网原创文章,未经授权禁止转载。详情见转载须知。