从条件记忆、稀疏计算到真实任务评测,腾讯试图重新分配模型的容量、计算与调用成本。

11月16日,腾讯混元正式发布Hy4 Flash。 模型总参数为2240亿,其中640亿为Engram记忆参数。官方同时披露,每个token的激活参数量为120亿。Hy4 Flash支持多模态输入和最高100万token上下文,目前已接入腾讯云TokenHub、WorkBuddy、元宝、企业微信、QQ、ima和Marvis等产品。 如果只把它理解为便宜版Hy4,会错过这次发布真正值得讨论的部分。价格下降当然是最直观的变化,但在这组价格背后,腾讯同时调整了模型的容量分配、后训练方式、推理系统与评测标准。Hy4 Flash更像一个面向高频工作任务的重新设计,而不是对旗舰模型进行简单裁剪。 它试图回答的问题也不再是一个模型需要多少参数才能取得更高分数,而是完成一项真实工作,究竟需要调用多少计算、生成多少内容、付出多少时间与成本。 腾讯云TokenHub公布的人民币刊例价显示,Hy4 Flash每百万token输入0.5元、输出2元、缓存命中0.02元。Hy4对应价格分别为6元、18元和0.3元。按刊例价计算,三项费用分别下降约91.7%、88.9%和93.3%。 目前两款模型均有限时五折活动,只是截止日期不同。Hy4 Flash的活动持续至11月30日12时,Hy4持续至12月31日。同比例打折会缩小绝对差价,但不会改变相对降幅。例如输入价格分别从0.5元和6元降至0.25元和3元,Flash仍比Hy4低约91.7%。 刊例价适合观察长期价格结构,活动价则影响近期账单,两者不宜混用。 缓存命中率是另一个现实变量。对于固定系统提示、重复文档前缀和多轮工具调用较多的工作流,缓存命中可以进一步降低输入成本。完全新增的输入则难以获得同等收益。因此,同样一组刊例价,在不同任务结构下会形成不同的实际成本。 但token单价仍然只是成本结构中的一层。 一个Agent任务通常不会止步于一次模型请求,它可能需要读取材料、执行检索、调用工具、检查结果、修改错误,最后生成交付物。输入长度、输出长度、缓存命中率、失败重试和人工修正,都会进入最终账单。 Hy4 Flash更值得关注的是腾讯把优化目标从单次调用价格扩展到了完整任务成本。官方称在内部WorkIndex评测中,Hy4 Flash平均单任务成本约为Hy4 Preview的1/13、Hy4的1/20。在相同评测口径下,与DeepSeek-V4.1-Flash-1017的Max档位高峰定价相比,单任务成本约为1/8。 这些数字不能直接外推到所有业务。它们来自腾讯内部任务集,成本还受到模型档位、工具链和计费规则影响。但它们揭示了一个明确方向,模型厂商开始把成功完成一项工作需要多少钱作为产品指标,而不仅是公布每百万token的价格。 这也是Hy4 Flash与一次普通降价的区别。降价只改变计费数字,任务成本优化则需要模型架构、输出行为和推理系统共同配合。 总参数与激活参数的分离并不是从Hy4 Flash才开始。 稠密模型通常需要在每次推理中激活全部参数。MoE,也就是混合专家模型,通过路由机制让每个token只经过部分专家,从而让模型容量与单次计算量不再同步增长。 Hy4 Flash在条件计算之外引入Engram所代表的条件记忆。从Engram原始论文看,这一模块把经典N-gram嵌入改造成可扩展的查找结构,通过确定性哈希进行O(1)寻址,读取训练所得的静态嵌入。论文将它定义为与MoE互补的另一条稀疏路径,MoE负责条件计算,Engram负责条件记忆。 它试图解决的是一个相对具体的问题。 语言中大量实体、固定搭配和局部模式具有稳定的重复性。传统Transformer没有专门的知识查找结构,模型即使反复遇到相同模式,也往往需要通过早期网络层重新完成表示构建。Engram的思路,是把其中一部分静态模式交给记忆表读取,减少主干网络的重复工作。 因此,Engram不宜被理解为一个可以随时更新的外部知识库。它不是企业文档索引,也不是RAG系统中的语义检索器。它更接近模型内部的参数化静态记忆。 同样,不能把Hy4 Flash简单描述成Engram负责全部知识,LatentMoE负责全部推理。模型主干仍然承载知识与动态计算,混合注意力、LatentMoE和其他组件也不是彼此隔绝的两套系统。 官方没有进一步披露120亿激活参数的具体构成。因此,既不能把这120亿直接等同于LatentMoE的规模,也不宜自行判断Engram查表所读取参数的计入方式。 Engram原始研究来自北京大学与DeepSeek-AI团队。原论文可以解释这一技术的一般原理,却不能直接证明腾讯的具体实现、层位配置和训练方式与原论文完全一致。讨论Hy4 Flash时,这一层来源边界需要保留。 激活参数减少,不等于部署成本也按相同比例缩小。 Hy4 Flash的每个token只激活120亿参数,但完整模型仍然拥有2240亿总参数。未被当前token调用的专家权重和记忆表并不会因此消失,它们依然需要存储、管理和调度。稀疏模型减少的是部分计算量,不是全部基础设施成本。 Engram原始论文给出的工程解法是利用确定性寻址提前知道需要读取的记忆位置,再通过主机内存卸载、异步预取和计算通信重叠降低等待时间。论文还讨论了多层缓存,让高频模式进入更快的存储层级,把长尾模式放在容量更大的介质中。 这说明条件记忆并不是凭空获得廉价容量,它把一部分计算问题转化成了内存层次、数据预取和系统调度问题。 在企业部署中,还需要继续观察并发波动下的显存占用、记忆表读取和尾延迟。平均解码速度无法完整反映高峰请求下的P99延迟,也不能替代服务稳定性指标。这属于稀疏架构普遍需要验证的工程问题,并非腾讯已经披露的实测缺陷。 Hy4 Flash公开材料还披露混合注意力、LatentMoE与Engram的组合,将KV缓存压缩到Hy3的1/24、Hy4的1/6。 KV缓存保存历史token的键值状态。上下文越长、并发越高,它占用的内存越可观。压缩KV缓存有助于缓解显存压力,也为长上下文和高并发服务留下更多空间。 但缓存缩小不意味着端到端延迟必然按相同比例下降。真实吞吐量仍然取决于硬件、批量大小、输入长度、模型实现和调度策略。总参数、激活参数、KV缓存与实际服务成本之间有关联,却不能相互替代。 Hy4 Flash的降本并不只发生在预训练架构。 官方披露它先通过Hy4自蒸馏继承通用能力,再利用强化学习将平均端到端任务输出token数减少50%。 自蒸馏的作用是让激活预算更小的模型学习旗舰模型已经形成的能力与行为。输出压缩则直接影响推理账单,因为输出token通常比输入更贵,生成过程也占用更多时间。 这体现了后训练在实用模型中的另一种价值。模型优化不再只是提高回答正确率,也包括学会在什么时候停止、哪些内容不必展开、怎样用更少的步骤形成可交付结果。 不过,输出更短并不天然等于效率更高。 如果压缩导致信息缺失、工具调用失败或人工返工,节省的token费用可能被质量损失抵消。自蒸馏能够迁移多少通用能力,能否保留长程规划、错误恢复和复杂指令执行,也必须通过任务结果验证,而不能只根据训练方法推断。 推理侧同样如此。腾讯列出megakernel、4-bit量化与DFly,并称Hy4 Flash解码速度超过150token/s。Megakernel通常通过融合算子、减少内核启动和调度开销改善解码效率,4-bit量化则降低权重存储与内存带宽压力。 官方没有在发布稿中展开LatentMoE和DFly的具体机制,也没有完整披露测速所用硬件、并发和上下文条件。因此,150token/s应被理解为厂商测试结果,而不是任何调用环境都能达到的服务承诺。对于尚未公开的技术名称,保留已知信息比自行补出原理更重要。 Hy4 Flash的评测设计,与它的架构和训练方式同样重要。 腾讯没有只展示公开榜单,而是建立了面向WorkBuddy典型任务的内部评测WorkIndex。它覆盖幻灯片创建与编辑、人机协同写作、文档编辑、表格修复、音视频处理和视觉理解等任务,并把交付物质量、输出长度和任务耗时纳入观察。 公开基准通常擅长测量边界清楚的单点能力,例如一段代码能否通过测试、一个数学问题是否回答正确。真实工作任务却往往没有这么干净的边界。 一份PPT是否可用,不仅取决于文字是否正确,还取决于结构、版式、素材和后续修改成本。一次表格修复是否完成,也不只是模型有没有给出公式,还包括文件能否正常打开、数据关系是否保留、用户是否需要重新检查整个工作簿。 WorkIndex的价值就在于把评价单位从一道题推进到一项交付。 腾讯还披露了85名内部WorkBuddy用户对259项、27类任务的盲测。Hy4 Flash满意度为2.79分,接近Claude Haiku 5.5的2.81分,中位端到端完成时间分别为6.7分钟和6.8分钟,单任务成本分别为0.26元和4.73元。 这组结果不能被概括成全面领先。DeepSeek-V4.1-Flash-1017在同一盲测中的满意度为3.09分,高于Hy4 Flash,只是耗时和成本更高。Hy4 Flash体现的是一种成本、时间与满意度之间的平衡,而不是所有维度上的最高能力。 WorkIndex的局限同样明确。评测集由腾讯构建,盲测用户来自内部,任务分布贴近WorkBuddy,外部团队无法完整复现。它更接近企业日常办公自动化,能够解释产品定位,却不能代表所有Agent场景。 尤其是不同任务的成本收益可能并不一致。结构化文档处理与开放式长程研究,对模型的规划、检索和错误恢复能力提出不同要求。企业仍需按自己的任务类型复测,而不能将整体平均值直接套用到每一个工作流。 因此,更准确的说法不是腾讯不再重视公开榜单,而是模型的优化目标不再止于公开榜单。交付质量、响应时间和任务成本,正在成为另一组不可忽略的指标。 Hy4 Flash并不意味着小激活模型已经可以无条件替代旗舰。 腾讯公布的附录显示,Hy4 Flash在Terminal-Bench 4.0和ProgramBench上的成绩分别为19.2和16.0,Hy4分别为44.4和30.0。DeepSWE、OSWorld和带工具的HLE-Full等测试中,Hy4也仍然领先。 这些结果来自厂商自测,仍需独立复现。但至少可以确认,Flash档位没有抹平复杂任务上的能力差距。 差距究竟来自激活参数规模、训练策略、输出压缩,还是其他因素,官方没有给出因果拆解。不能简单归因于Engram缺少新知识,也不能据此推断条件记忆不适用于复杂推理。 Engram原论文恰恰报告了它在部分推理、代码和数学测试中的改善。论文真正揭示的权衡是,记忆与计算之间存在合理配比。参数过度向记忆模块倾斜,会削弱动态计算能力,记忆无法完全取代计算。 Engram自身也有需要处理的技术问题。静态嵌入可能受到哈希碰撞和多义性的影响,且缺乏天然的上下文适应性。原论文通过多头哈希和上下文感知门控缓解噪声,但这些机制在Hy4 Flash中的具体实现和实际贡献,公开材料尚未单独披露。 腾讯自己的产品建议反而更加清晰。官方把深度研究、文档处理、PPT生成、简单前端展示和Computer Use列为Hy4 Flash的适用任务,同时建议复杂长程软件工程继续使用Hy4。 这不是互相替代,而是分层互补。 多模态与长上下文也需要按实际接口理解。腾讯云模型页列出的输入类型为图片和文本,输出类型为文本,上下文窗口为1024K,最大输入960K、最大输出64K。原生多模态不等于图片、音频或视频生成能力,100万token上下文也不保证模型在任何超长输入中都能稳定定位细节和完成多跳推理。 官方没有进一步公布多图、长图或复杂视觉任务的专项限制。对此,合理的态度是保留实测,而不是自行增加能力或约束。 Hy4 Flash释放出的行业信号不是某一款模型从此可以承担所有任务,而是模型分层正在变成基础配置。 旗舰模型继续承担复杂推理、长链路软件工程和高难度Agent任务。Flash模型承接搜索、阅读、改写、结构化输出和常规工具调用。企业需要选择的不再是一个唯一模型,而是一套能够按任务难度、失败代价和时延要求分配请求的路由机制。 过去,一个Agent流程中的每个步骤都可能调用同一款高价模型。大量分类、格式转换和状态总结,也因此消耗了旗舰级推理资源。 现在则是让Flash模型处理高频步骤,在置信度不足、任务链条变长或错误代价升高时升级到旗舰模型。成本优化由此从采购单价问题,变成工作流设计问题。 如果Flash处理失败,再将同一任务交给旗舰重试,两次调用会叠加,最终成本可能高于直接使用旗舰。成熟的路由系统因此不能只有任务分类,还需要加入置信度判断、失败惩罚和重试预算。 企业真正需要测量的也不是每百万token多少钱,而是每个成功任务多少钱。成功任务成本,应当包含输入、输出、缓存、搜索与工具调用、失败重试和人工修正等全部成本,再除以最终验收通过的任务数。 如果Hy4 Flash一次完成且质量合格,就没有必要为所有请求支付旗舰价格。如果某项任务需要多次重试,或者错误会传导到后续流程,直接调用能力更强的模型反而可能更便宜,模型分层的本质不是节省每一次调用,而是减少整个流程中的无效计算。 Hy4 Flash的重点是腾讯把降本做成了一项跨层工程。稀疏激活控制单次计算,条件记忆分担静态模式重建,混合注意力压缩KV缓存,自蒸馏迁移通用能力,强化学习调整输出长度,推理系统降低部署开销,WorkIndex再把评价目标推进到真实交付。 这些环节共同构成了Hy4 Flash的价格基础。 它也没有证明效率可以无条件取代能力上限。公开附录中的复杂编程与终端任务差距,恰好说明旗舰与Flash仍有各自的位置。真正成熟的模型使用方式,不是押注某一个模型,而是建立可测量、可切换、可复盘的任务路由。 腾讯已经表示计划开源Hy4 Flash,并将OpenRouter接入列为后续安排,这两项目前仍应按计划表述,而不是已经完成的开放。大模型的成本叙事正在从每token多少钱,走向每项合格交付多少钱。 这比一次降价更接近生产力工具真正的计费逻辑。降价只是结果,任务成本才是目标



真正的架构信号,是条件记忆与条件计算的组合
稀疏模型并没有消除存储与系统问题

后训练正在改变模型的输出行为
WorkIndex改变了评价模型的角度


低价没有消除能力分层
模型路由会比单模型选择更重要
结语
本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。
评论列表