发展Token经济, F5为什么不可或缺?

Token的高效流转,本质上依赖一套成熟的流量治理与安全体系,而应用交付与安全平台(ADSP),正是在这一层面发挥着关键作用

如今都在谈论Token经济,Token也有了自己的中文名字——词元,其实Token也好,词元也罢,核心还是AI应用,Token不过是个形式和载体。

当行业讨论Token时,更多聚焦于模型能力、智能体编排以及算力效率,很少有人将其与应用交付与安全体系关联,这种认知偏差也让相关能力看起来像是“附加项”。

但随着Token成本、调用效率与合规安全成为企业关注重点,问题逐渐显现:仅靠模型本身,并不能解决Token在复杂业务场景下的调度、优化与防护。Token的高效流转,本质上依赖一套成熟的流量治理与安全体系,而应用交付与安全平台(ADSP),正是在这一层面发挥着关键作用。

英伟达也这样选择

英伟达(NVDIA)对于Token经济的价值毋庸多言,没有英伟达GPU 算力突破,就没有今天的Token经济。

如今,英伟达也在致力于解决数据访存墙的瓶颈问题,防止数据加载速度过慢拖累GPU。为此,英伟达联合海力士、DELL、PureStorage等SSD、全闪存阵列厂商,通过AI  SSD、GDS等创新技术,缓解访存墙的问题。

不仅如此,英伟达与西门子、比亚迪等行业头部企业合作,探索算力与AI应用的融合,实际上,这些有针对性的优化和积累,会被新一代GPU设计融合,提供创新灵感的支持,保持英伟达在市场的领先。

在英伟达众多战略合作伙伴之中,也包括F5,因为英伟达清楚F5产品解决方案重要性和价值。

应用交付和安全为什么不是模型属性和职责呢?为什么要F5这样生态伙伴提供支撑呢?

在此,不妨看看应用交付和安全的具体内容。




全球Web软件应用安全组织——OWASP(Open Web Application Security Project,开放 Web  应用安全项目)列举了AI推理应用10大关键安全问题,其中失效的对象级授权、失效的用户身份认证、资源消耗无限制等,这不是模型算法本身的问题,而是使用中需要考虑的问题。

模型厂商精通算法和效果,F5擅长流量的应用交付、负载均衡和安全,这就是这就是术业有专攻。

应用的技术本质是API调用

对于Token经济,在技术形式上有一个基本判断:Token会以API接口调用方式来呈现。




F5亚太区首席技术官Mohan Veloo

F5亚太区首席技术官Mohan  Veloo透露:目前有78%的企业拥有推理智能体,平均使用模型的数量不低于7个,或部署在数据中心,或部署在边缘侧运行,涉及多达19个不同的地理位置,94%呈现混合云应用特征。与此同时,网络攻击相比去年在数量上增加了77%,其中150%并非来自人的攻击,更多来自智能体的所作所为。

“传统基于人力的安全攻防,以静态特征分析为主的手段已经过时,安全必须要借助AI的赋能,以AI对抗AI,这是F5特长。对此,F5提供了从统一入口、编排调度到模型推理的三段式管理和防护方案。”他说。

具体说来就是借助F5的BIG IP LTM 流量管理器,转发Token流量,进行负载均衡的同时,借助AI推理网关聚焦于应用可用性、性能和安全,如针对提示词注入+角色扮演等安全威胁进行有效的拦截;对AI可见,人类不看见的隐形指令加以防护,实现了发现问题与实施防护的无缝衔接,确保AI实现对全链路流量的实时监测、拦截和管控。

Mohan Veloo透露:F5在中国设立了专门的AI应用工程部,借助AI红队和AI护栏,秉持  “AI赋能交付”理念,为Token经济保驾护航。从效果上看,F5可以拦截99.3%直接提示词注入攻击;可以对过度权限、过度功能、过度功能等模型设计缺陷进行防护,可以有效应对数据泄露的问题。

安全之外,F5方案提供的另外价值是对异构算力混合部署的支持。

国内智算中心往往会拥有不同品牌、不同代次,以及不同算力架构的产品,英伟达之外,也会混合使用华为昇腾、海光、寒武纪、昆仑芯等异构算力,它们的性能各异,特点不尽相同。

对这些异构算力,F5 ADSP提供不仅提供支持,而且在应用过程中,能够根据不同算力的需求加以平衡调度,以发挥现有算力的潜能。有数据显示:借助AI就绪F5  ADSP调度,可以提升8%左右的算力效能,为Token经济降本增效创造了条件。

按照英伟达对Token 工厂的描述,数据中心升级为Token  规模化生产基地,以电力和数据为原料,持续产出 AI 最小执行单元 Token,核心竞争力是单位能耗 / 成本的 Token  产出量。因此,应对好异构算力的支持,对于Token 工厂意义重大。

“F5成立30年来,一直走在应用交付的最前沿。秉持‘创新中国,链接全球’的发展理念,通过 AI  赋能与全球协同,持续增强本地创新能力建设,更好满足中国企业智能化升级以及 “出海”与全球化发展的需求。” F5北亚区总裁黄彦文说。

小结

在Token经济发展的今天,只见树木,不见森林,没有看到的等于没有发生,这个心态要不得。

F5是不是不可或缺,这个不是F5说了算,而是实际应用说了算。发展才是的硬道理,很多内容需要在实际应用过程中进行体验。


本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。

赞 ()

相关推荐

发表回复

评论列表

点击查看更多

    联系我们

    微信:百易小助手

    邮件:contact@doit.com.cn

    工作时间:周一至周五,9:30-18:30,节假日休息

    微信