端侧AI进入下半场,天玑 9600 Pro交了一份架构级答案

联发科发布首款2nm芯片天玑9600 Pro,双NPU让AI常驻在线,30B大模型端侧运行,隐私数据不必离开手机,端侧AI竞赛进入持续在线的下半场。

图片

9月15日,联发科正式发布天玑 9600 Pro

台积电第二代2nm工艺,330亿以上晶体管,双方联合完成设计工艺协同优化。工程机Geekbench单核4137、多核13086,ETHZ AI Benchmark 22631分位列全球第一。

这些数字发布后很快被反复引用,但它们更多回答的是上一代问题。把发布会信息拆开重新排列,真正值得展开的是下面五件事。

双NPU 异构,端侧AI的架构答案

天玑 9600 Pro采用超性能加超能效的双NPU设计,这在手机SoC里是第一次被摆到如此核心的位置。

按官方口径,性能NPU面向大模型运行与端侧推理、多模态、生成式AI和复杂Agent任务,峰值性能较天玑 9500提升51%,每瓦生成Token数提升32%,支持30B参数MoE模型端侧流畅运行。能效NPU面向智能体Always-On环境感知与长时间后台运行,功耗较上代下降40%

换成日常语言描述,大模型对话、文生图、文档摘要属于前者,语音唤醒、场景感知这类全天候轻量任务属于后者。过去这两类负载挤在同一颗NPU上,重载任务拉高功耗,轻载任务又显得大材小用,厂商只能把常驻功能默认关闭。架构层面的拆分,等于承认了端侧AI的一个长期矛盾,峰值算力决定AI能做什么,持续算力决定AI实际被用多少。

芯片之外,联发科还同步升级了系统侧配套。

天玑智能体化AI引擎3.0打通硬件、系统、开发工具与生态,内置Sensing Foundation感知套件和天玑AI开发套件。NPU是肌肉,这套链路才是让肌肉被日常调用的神经系统。芯片设计的胜负手,正在从峰值参数转向持续在线能力。

30B端侧落地,隐私第一次有了硬件背书

第二个关键信息是30B参数MoE模型的端侧支持。混合专家模型总参数量大、单次推理只激活部分参数,天然适合算力受限的设备。30B端侧可跑,意味着翻译、摘要、多模态理解等高频任务可以在完全离线的状态下完成,云端往返的延迟被取消,用户内容也不需要离开设备。

隐私这条线,这次有一个容易被忽略但分量很重的升级。天玑 9600 Pro全球首款内置AISeal安全架构的移动SoC,通过硬件信任根和PKVM、TEE隔离区确保用户资料不出隔离环境,验证追溯环节采用抗量子强化的可验证启动链与防回滚机制。数据不出设备不再是一句产品话术,而是从安全架构层面被固定下来的设计。对数据敏感的行业用户而言,这个信息比跑分重要得多。

作为参照,天玑 9500的NPU 990去年以15015分首次登顶ETHZ榜单,已被视为端侧AI的显著跃升。一年之内这个数字推进到22631,而今年的重点已经从算力爬坡转向算力与能效的同步推进。

三强同月落子,路线开始分化

天玑 9600 Pro落地的这个9月,恰好是三家旗舰芯片正面相遇的窗口。苹果A20 Pro在9月10日率先随iPhone 18 Pro登场,高通已官宣9月22日骁龙峰会发布新一代平台。

把三家放在一起看,路线差异很清楚。苹果给A20 Pro塞进了双16核神经网络引擎,合计32核,内存带宽提升50%,并首次用晶圆级多芯片封装把内存直接集成在计算芯片所在晶圆上,减少数据搬运,服务的是系统级AI能力。

高通基于官方预热与曝光资料,思路是让Oryon CPU承担智能体工作负载的编排调度,NPU同样瞄准30B MoE模型,重心偏向Agent任务的统筹。联发科的答卷则是双NPU异构加端侧30B,把模型规模和常开能效同时摆上桌面。

图片

三家的共识大于分歧,都在为端侧AI重构芯片,都在把能效放到与峰值性能同等的位置。

分歧在于各自的筹码不同,苹果押系统整合,高通押任务编排,联发科押模型规模与能效结构。真正的对位比较,要等高通新平台正式发布之后才能完整展开,眼下能确定的是,竞争的标尺已经从峰值跑分换成了持续在线能力。

内存与存储,下一代旗舰的新门槛

一个发布会不会强调、但产业链很清楚的推论是端侧30B模型对内存容量和存储带宽提出了硬性要求。

模型本体、常驻上下文、系统同时驻留的应用,每一项都在占用RAM。芯片侧对LPDDR6与UFS 5.0的支持,与终端侧大模型的加载需求正是对应关系。

参照系可以看看刚发布的iPhone 18 Pro,配备的是12GB内存。要装下30B级别的端侧模型并留出后台驻留空间,16GB大概率会成为AI旗舰的基准线,8GB机型正在退出旗舰梯队。

换机周期也因此出现了新的驱动因素,过去用户换机主要由性能和电池衰减驱动,接下来会有应用以端侧AI能力为分界线。

vivo X500系列已确认全球首发天玑 9600 Pro,量产机的内存配置会是这轮判断的第一个样本。

图片

三个信号,指向同一个判断

把双NPU、30B端侧模型、能效优先的制程用法放在一起,可以读出一个产业层面的信号。

端侧AI正在跨过能用就行的阶段,进入好用、常用、常开的阶段。过去端侧AI是发布会上的演示功能,接下来它会变成用户感知不到但持续运行的基础能力,而芯片竞争的胜负,也从参数表的数字转向日常体验里的无感智能。

制程红利的兑现方式也在偏移。台积电N2P相比3nm,同功耗性能最高提升18%,同速度功耗降低约36%。落到这颗芯片上,多核峰值功耗较天玑 9500下降61%

前几代工艺的红利主要兑现为性能,这一代更多兑现为能效,34.5MB缓存组合配合LPDDR6的目标,是压低数据搬运功耗,给持续在线的AI负载留出空间。

格局层面,联发科市值在今年年初已超过高通,而账面竞争仍在继续。

结语

2nm、4137、22631,这三个数字代表的是地基。双NPU的分工、30B模型的端侧落地、AISeal从架构层面锁住数据路径,才是这代芯片真正想表达的东西。

端侧AI的竞赛已经进入下半场,规则从峰值性能换成了持续在线能力,从参数表换成了默认体验。检验标准其实很简单,明年这个时候,用户还记不记得这些功能,以及他们愿不愿意为此换机。

- END -


本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信