您正在使用IE低版浏览器,为了您的雷峰网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
智能硬件 正文
发私信给马广宇
发送

0

潮汐架构与大模型,OPPO的新答案

本文作者:马广宇 2024-01-08 21:38
导语:行业破冰的关键节点,OPPO能否做到“体验升维”?

2023 年末,凛冬已至,但手机市场的寒气却有所缓解。

国内手机市场在经历了连续十个季度的下滑之后,今年 10 月份终于有所回暖,国内手机销量同比增长了 11%,在随后的双十一,销量更是接连打破了之前的记录。另外,根据数据机构的预测,2023 年的第四季度将会是“走出寒冬”的拐点。

早年间的“野蛮生长”让智能手机市场得到了爆发性的增长,另一方面,也让不断“飙升”的销量过早陷入瓶颈。

随着手机设备性能的加速升级,用户的换机周期早已从 24 个月变为 36 个月,再加上近年来没有颠覆性的技术加入,用户换机动力逐渐减弱。

如今,手机厂商穿越了十个季度的寒冬,春天近在眼前,但回顾近年来的手机产品发展路线,厂商们到底能否接住这一波机会,还要画上一个问号。

机会面前,困境不断

一个残酷的事实是,如今的高端手机市场已经深陷泥沼,原因有三点:

1、随着半导体制程进入 3nm 时代,行业在一段时间内很难再次见到制程革命。

几十年来,半导体行业的进步遵循着一条金科玉律,即摩尔定律。摩尔定律表明:每隔 18~24 个月,集成电路上可容纳的元器件数目将增加一倍,芯片的性能也将随之翻一番。

手机行业的飞速发展离不开芯片,2021 年末,全球半导体先进制程之战火花四射,MTK 和高通不约而同的打响了 4nm 手机芯片的第一枪,这些逐渐缩小的芯片制程数字,正是全球电子产品整体性能不断进化的核心驱动力。

当前半导体制程进入 3nm 时代,在性能不断飙升的同时,制程进步带来的性能提升逐渐逼近物理学的极限,晶体管尺寸的微缩越来越难,表现也比较一般。以 3nm 的 A17 Pro 为例,A17 Pro 的表现并不尽人意,不止性能提升有限,功耗也一度接近“翻车”。

正是在性能和功耗的权衡下,自 2021 年末 MTK 和高通踏入 4nm 领域后,直到今天 Android 手机芯片仍然在沿用 4nm 制程工艺,并且在未来一段时间内,“挤牙膏”式的性能提升仍然会是手机芯片的主旋律。

2、高端手机市场竞争激烈,但同质化严重。

国内是手机厂商竞争最激烈的战场,作为全球最大的智能手机市场,这里有着华为、OPPO、vivo 等一流的手机厂商不断碰撞,同时也有着三星、苹果这样的海外巨头强势竞争。

但伴随着产品的不断升级,一个值得正视的问题是:国产高端手机的同质化正逐渐加重。

手机产业的升级离不开供应链的迭代,中端产品尚可以通过配置、技术以及价格间的取舍拉开距离,但一旦触及到高端市场,各大手机厂商都不约而同的选择堆料解决问题,在这一关键节点,厂商们亟需新的解题思路。

3、大模型被认为是下一突破点,但仍没合适的落地方式。

自 2023 年初大模型成为互联网发展技术趋势的关键词,手机厂商关于大模型的探讨就一直没有停止。

从逻辑上讲,手机厂商作为最接近消费者的硬件厂商,同时还有着海量的用户群,已经形成坚实的基座,可以帮助大模型实现更有价值的落地方案。

另一方面,单一的硬件或完全依靠云侧的方案难以推动 AI 进一步发展,软硬件的高度协同是拓宽大模型边界的关键所在,想要实现场景体验的新突破,打通上下游无疑是 AI 发展的未来趋势。

去年 8 月份开始,华为、小米、vivo 等 Top 级手机厂商都带着各自的落地方案进军大模型领域,但直至现在,消费者吐槽最多的还是:“只让语音助手变成聪明一点的语音助手”。

机会面前,瓶颈不断,手机厂商该如何破冰,进入下一个增长期?

潮汐架构,一份关键答案

性能不再是手机的瓶颈,前几年手机厂商都选择了新的影像赛道,通过与传统相机企业的携手同行,让高端手机市场迎来了新的增长机会。如今市面上 4000 元以上价格段的产品,都在不断强调自身的影像实力。

但值得正视的是,受限于机身厚度和重量,光学的部分已经接近物理极限,想要得到天花板之上的提升就要投入几倍于此前的人力物力,投入与产出之间的平衡已经被打破。

正因如此,手机的发展正逐渐回归用户本身。性能是体验的关键因素,由于目前国内安卓手机厂商采用的都是 MTK 和高通的移动平台,非自研往往会带来适配上的问题,如何让处理器能够更适合各自品牌的体质,是所有手机厂商都曾考虑过的一件事。

这几年国内手机厂商均在这方面做过尝试,但一个比较尖锐的问题是:在整个性能链路中,传统手机厂商仅能在 ROM 或 RAM 进行性能优化,仅是无法触及SoC,就已经为手机厂商划出天花板。

就在近日,高端手机市场迎来了 2024 年的首款旗舰产品:OPPO Find X7 系列,值得一提的是,这也是此前 OPPO 所公布的“潮汐架构”的首次应用,在 Find X7 系列上,OPPO 的这份答卷或许能为业内带来新的灵感。

何为“潮汐架构”?

相较于制程发展的减速,智能手机的性能链路特性或许是“高性能、低体验”的关键原因。

当前智能手机的性能链路沿用了冯·诺依曼计算机结构,而非一体性更强的哈弗结构。这一结构的特点主要以计算为中心,计算与内存是两个分离单元,计算单元根据指令从内存中读取数据,在计算单元中完成计算和处理,完成后再将数据存回内存。

但存算分离所带来的问题是,当 CPU 的计算速度远大于内存的读写速度时,计算机的核心性能将无法得到完整发挥,相较于继续提升计算核心的性能,提升计算核心能效反而要更为重要。

传统手机厂商所能操作的区域,仅仅是在 DDR 或 UFS 层进行性能优化,由于没有芯片行业的丰富经验使得厂商无法深入到原本只有芯片公司才能优化的系统缓存以及 L3 缓存。

但非常戏剧性的是,OPPO 恰巧有着非常丰富的造芯经验,一个最难的问题反而被简单的解决了。

所以,天时地利的背后,“潮汐架构”应运而生,正如 OPPO 软件技术规划与架构设计总监洪汉生所说:

“潮汐架构是 OPPO 自研的芯片软硬融合技术的集合,是一群懂芯片的人打造的芯片优化技术。”

潮汐结构深度触及到了 SoC 的 L3 缓存和 SLC(系统级缓存),传统 SoC 的 SLC 往往针对 CPU 和 GPU 等计算核心采用固定的分配方案,这种死板的分配方式会造成一定的资源浪费和拥堵。想要避免拥堵,最好的方式就是灵活分配,让 SLC 得到最佳利用。

潮汐架构的意义在于,可以根据应用场景的不同,灵活调整缓存配比。比如当运行大型游戏需要图像渲染时,则给GPU 分配更多的,降低对 DDR 和 UFS 的访存频率,提高应用运行速度,还能降低计算链路的整体能效。经测算,对于SLC的调度优化,能带来平均 8%的能效节约。

潮汐架构与大模型,OPPO的新答案

另一方面,潮汐架构的存在,能够细致的判断用户的应用场景,传统方案是依据应用来判断性能需求,根据应用来匹配不同的 CPU 和 GPU 算力以及相应的存储能力。潮汐架构则能够更深入的识别使用场景,比如游戏中跑图、任务动画,或者在战斗状态,精细化带来的不只是算力与存储的高度贴合,更是能够实现精准的能耗控制,综合来看整体续航能够得到 20%的提升。

“定制”带来的优势远不止性能和能效上的改善,苹果依靠 A 系列处理器与系统之间的高协同性常年霸占手机体验的榜首,而潮汐架构的深度定制也让 Android 第一次有了超越 iOS 的可能。

在潮汐架构的加持下,Find X7 具备了超越 iOS 的应用启动性能的高度一致性,这意味着 Find X7 将始终保持流畅运行,即便是后台多任务运行也能快速打开应用,配合稳定的后台保活机制,在模拟用户一天 320 次启动应用的测试中,搭载潮汐架构的 Find X7 标准差只有 11ms,实现了比同平台和其他平台都持久稳定的流畅表现。

更令人兴奋的是,尽管官方介绍潮汐架构是天玑 9300 进行深度定制的专属能力,但事实上,OPPO Find X7全系都已经针对潮汐架构进行了适配,并会在未来赋能到更多的产品当中。

跳出“盲目创新”的解题思路,站在用户的视角解决问题,是 OPPO 如今的核心想法。国产安卓旗舰往往被用户吐槽“不思进取”,正是因为厂商对于用户体验的打磨不够,同质化严重,才会形成刻板印象。“潮汐架构”的诞生,从根本上改变了用户的使用体验,更是有着成为“鲶鱼”的潜质。

如今,OPPO 已经开始深度参与到下一代天玑芯片的设计当中,“潮汐架构”的未来充满了无限可能性。

70 亿参数大模型在手机端的真正落地

OPPO同时也在探索大模型的可能性。

2023 年 11 月 13 日,OPPO 官方宣布其全球月活用户数量突破 6 亿,这意味着 OPPO 用十年时间成为国内最快突破 6 亿月活用户的安卓深度定制系统,同时也是 ColorOS 发展历程中重要的里程碑之一。

十年达成 6 亿月活的历史性成绩,是 ColorOS 十年发展中浓墨重彩的一笔,同时也是 ColorOS 迎接 AIGC,构建智慧互融体验的新起点。

自 2023 年初“百模大战”火花四射,手机厂商就不断思考大模型所带来的种种可能性,OPPO 更是其中的佼佼者。

在 Find X7 上,OPPO 与 MTK 进行深度合作,率先在行业内采用了最优大模型端侧部署方案:4 位量化技术,实现精度不掉点效果下更优的性能,通过推理引擎的加速,以及芯片硬件加速的方式,更是成为行业首个端侧应用的 70 亿参数的模型。

基于来自端侧的 70 亿大模型参数,Find X7 能够实现比其他手机更快速的大模型响应速度与能力,200 字的摘要首字生成只需要 0.2 秒,与其他手机相比实现了 20 倍的速度提升。另外,为了保证端侧的性能优化,OPPO 还为端侧 70 亿参数大模型加入了 AI Boost 推理引擎,实现更高效的体验。

另一方面,在整个“端云协同”的大链路中,端侧是轻量高效的解决方案,但除了端侧外,整个 OPPO 大模型(AndesGPT)能够完整涵盖十亿至千亿以上多种不同参数规模的模型规格:AndesGPT-Tiny、AndesGPT-Turbo 和 AndesGPT-Titan,最高可达 1800 亿参数,能够实现深度推理的任务。

某种程度上,参数决定了模型的智能和性能,参数越多,神经元越多,模型就越复杂,也越强大。

事实上,OPPO 踏入大模型领域的时间远比想象中要早很多。在 2020 年,OPPO 就已启动预训练语言模型的探索与实践,自研了一亿、三亿和十亿参数量的大模型 OBERT,通过不断地技术积累,OBERT 曾一度跃居中文语言理解测评基准 CLUE1.1 总榜第一梯队,还获得了大规模知识图谱问答 KgCLUE1.0 排行榜第一的成绩。

2023 年 9 月,AndesGPT 参与了 SuperCLUE 的能力测评,在知识与百科方面获得了 98.33 的高分,位列 SuperCLUE 知识与百科能力排行榜中的全球第二、国内第一,尤其是通用问答与对话能力,极为出色。同年 10 越,AndesGPT 现身 C-Enal 全球中文榜单,并以 79.9 的高分登顶该榜榜首。

为了保证用户“专属定制”的个性化体验,OPPO 又提出了一些技术上的变革思路,引入了长时记忆机制。从技术角度来看,只要手机能够记住用户交互过程中产生的交互历史、个人数据,以及从对话中提取的结构化信息,就能够被称为“智能体”,带有专属记忆数据的交互可以依托广泛的知识体系,实现更具价值的互动。

而想要保证长时记忆流畅的使用体验,AndesGPT 要拥有足够的吞吐速度和检索能力。针对这一技术难题,OPPO 选择了独创新技术:SwappedAttention 来攻克推理时长的难题。SwappedAttention 通过外部存储和 KV 压缩的方式,能够实现会话级 KV 缓存,在多轮长上下文对话中能有效降低每个 query 的首字推理时长,结合原有 PagedAttention 算法,能够带来 50%的首字延迟降低和 30%的推理吞吐提升。

OPPO 还公布了基于自主训练的 AndesGPT 生成式视觉模型,并让 Find X7 拥有主体识别分割、图像语义理解、图像延展与生成的能力。相较于其他云端模型,AndesGPT 不仅支持超过 120 类主体的识别与分割,还可以实现发丝级的分割以及高达 6 个的多主体分离,以及超大面积图像的填充与自然生成,生成时间也只有同平台其他模型的 60%。

正是基于在 OPPO 在大模型领域的技术积累和对用户需求的深度解构,OPPO 在 Find X7 上带来了丰富的落地应用。比如行业内首个 AI 大模型语音摘要功能、文章智能摘要能力、AIGC 图像消除、闪速抠图等功能——这些都是用户在日常使用中的高频场景。另一方面,OPPO也在全新小布助手中提供了多个智能体,丰富了大模型的工具属性,构建更完善的大模型生态。

潮汐架构与大模型,OPPO的新答案

早在 2023 年 3 月份,OPPO 就把大模型作为内部重要的战略级投入赛道,将“一切以用户需求为中心”的思想贯彻整个大模型研发周期,伴随着 70 亿参数大模型在手机端的真正落地,OPPO 将会为用户带来下一个时代的“体验升维”。

OPPO 的“专注笃行”

伴随着 OPPO Find X7 的发布,潮汐架构以及 Andes 大模型的落地已经引起了业内的重点关注,事实上,多年的技术积累早已经让 OPPO 成为手机领域技术的风向标。

近年来 OPPO 的大动作不断,智慧跨端系统潘塔纳尔的诞生打破了不同设备、系统、服务之间的壁垒,安第斯智能云提供端云协同的数据存储与智能计算服务,而潮汐架构的加入,让整个手机的体验整整拔高了一个台阶。一个事实是,如今的 OPPO 已经形成了自己的一套技术矩阵。

回顾 OPPO 的企业文化,“长期主义”一直刻在 OPPO 的骨子里面,“对的路不怕远”是一种坚持的勇气,正是这种将产品体验打磨到极致的追求,让 OPPO 在不稳定的市场局面中稳步前行。

“专注笃行,韧性生长”是陈明永向公司内部提出的要求,也是 OPPO 能够逆势增长的关键:2023 年第一季度,OPPO 以 19.6%的市场份额成为国内手机市场第一。2023 年第二季度,OPPO 以 17.7%的市场份额继续保持国内手机市场第一。

如今随着 Find X7 系列的推出,潮汐架构和 AndesGPT 能否再一次打破手机行业困境,推动手机市场走向下一个增长期,值得期待。

(雷峰网(公众号:雷峰网)

雷峰网原创文章,未经授权禁止转载。详情见转载须知

分享:
相关文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说