AI从“试验场”走向“生产线”，Akamai如何重构AI时代的云基础设施

褪去早期试点尝鲜的色彩，AI 产业步入重投入产出、重实际效益的理性发展阶段。过去两三年，企业讨论AI，最常见的话题是“要不要做”“用什么模型”。如今，随着模型投入实际运行，企业开始面对成本控制、算力距离、数据跨境、AI Agent调用API和执行任务后的安全责任等一系列现实问题。

Akamai亚太区高级销售副总裁兼区域总经理李昇

Akamai亚太区高级销售副总裁兼区域总经理李昇对此的感受非常直接。“过去，许多客户会问，我们是否应该投资AI，应该在业务的哪个部分进行投资。但现在，他们提出的是一个更加困难的问题：我们如何以安全、可靠的方式，让AI投入实际运营，并实现更大规模的应用？”

这其实是AI产业进入下一阶段的一个明显信号。AI不再只是模型的问题，而开始变成基础设施的问题。

8月20日，在一场围绕AI、云计算与安全的交流中，李昇、Akamai云计算首席技术官Jay Jenkins以及Akamai亚太地区及日本安全技术与战略总监Reuben Koh，分别从市场、云架构和安全三个角度，谈到了AI走向生产环境之后正在发生的一系列变化。AI正在把云计算过去没有解决的问题，一次性全部暴露出来。

一、AI真正进入生产环境，第一笔账就是ROI

AI进入生产环境之后，企业首先要算的不是模型有多大，而是这套AI到底值不值得长期跑下去。

李昇观察到，企业正在经历一条越来越清晰的路径：最初使用第三方基础模型，通过Token付费快速完成AI试验；随着调用量增加，成本开始变得敏感，企业开始转向公有云中的模型自主管理；再往后，一些企业会进一步考虑部署经过定制、使用自身业务数据训练的开源模型。

从“先用起来”，到“算清楚再扩大”，背后是企业AI投入逻辑的变化。

一个很典型的案例来自GoVeda。这家公司此前使用其他云服务商，希望获得高性能、可扩展的基础设施，但同时也非常看重投资回报率。Akamai对其工作负载进行分析后发现，在业务发展的早期阶段，并不一定非要使用GPU，CPU同样可以完成相关任务。

结果是，性能提升了30%，成本下降了20%。等到未来业务规模真正扩大，再切换到GPU，并进一步将基础设施分布到更加靠近用户的位置。

这件事情听起来简单，但它其实说明了一个正在发生的变化：AI基础设施开始从“堆资源”转向“算ROI”（ROI投资回报率，即企业投入一笔资金后，能够获得多少实际收益）。

GPU当然重要，但不是所有AI都需要GPU，更不是GPU越多越好。对于企业而言，真正需要的是根据不同阶段、不同业务和不同负载，选择最合适的计算资源。这也意味着，未来云厂商之间的竞争，可能不再只是比谁拥有更多GPU。

二、GPU不是越近越好，而是要放在“对的位置”

传统云计算解决问题的方式相对简单。计算资源集中在大型数据中心，数据也尽可能集中在那里，通过规模化基础设施获得更高的资源利用率。这套模式过去非常有效。但AI正在改变这种关系。

Jay Jenkins认为，传统云基础设施建立在“数据引力”之上——数据集中在哪里，计算资源就围绕哪里建设。但AI工作负载出现之后，用户、数据和GPU并不一定处在同一个位置。

Akamai云计算首席技术官 Jay Jenkins

于是，一个过去没有那么突出的问题被放大了：数据在哪里？用户在哪里？GPU又在哪里？

这三个位置正在越来越多地发生分离。尤其是AI Agent出现之后，延迟不再只是一个单次请求的指标。

Jay Jenkins举了一个非常直观的例子：一次AI请求可能只需要40到100毫秒，但如果进入多智能体系统，一个任务背后可能触发数百次请求，延迟不断叠加，最终可能从几十毫秒变成4秒甚至40秒。对于实时交互、金融、游戏、零售等业务来说，这已经不是简单的性能问题，而会直接影响用户体验和业务结果。

因此，Jay Jenkins提出了一个值得关注的判断：AI基础设施正在从“数据引力”走向“客户引力”。过去，计算更多是跟着数据走。现在，一部分AI计算需要开始跟着用户走。用户在哪里，实时AI就应该尽可能靠近哪里；数据在哪里产生，就尽可能在哪里处理；需要即时响应的任务，则需要尽可能减少数据和请求在不同区域之间的往返。

这其实与Akamai过去近30年的技术路径有很强的连续性。Akamai最早做CDN，本质上就是把内容放到离用户更近的位置；随后又把安全能力、无服务器函数和云服务不断向用户侧延伸。

到了AI时代，Akamai希望解决的问题依然类似：只是过去搬运的是内容，现在需要搬运的是AI能力。但这并不意味着所有AI都应该被搬到边缘。恰恰相反，Jay Jenkins强调的核心并不是“边缘优于中心”，而是让企业拥有根据业务条件进行选择的能力。

如果业务最看重延迟，就应该考虑更加靠近用户的位置；如果需要大规模计算能力，核心云仍然更合适；如果最关心成本，则需要选择基础设施成本更低的位置；如果数据受到监管约束，则必须优先考虑数据和模型运行的位置。于是，“中心云还是边缘云”这个问题本身开始变得过于简单。真正的问题变成：这一笔AI计算，到底应该放在哪里？

三、当算力、数据和用户开始“错位”，云的调度逻辑也得变

这也是Akamai布局AI Grid的基础。Jay Jenkins介绍，AI Grid希望建立一层AI编排能力，根据模型可以运行的位置、延迟要求以及其他业务条件，将请求路由到合适的位置。如果某个位置没有足够资源，还需要考虑能否快速启动新的基础设施。这个逻辑其实很像CDN。

过去，用户请求一个网页，系统会判断应该从哪个节点返回内容；未来，AI基础设施需要进一步判断：一次AI请求应该交给哪里的模型、哪里的计算资源来处理。

也就是说，云计算过去主要解决的是计算资源调度和数据访问。到了AI时代，还需要开始调度AI工作负载本身。而这件事情放在亚太市场，难度会进一步放大。

Jay Jenkins指出，亚太市场本身就具有高度碎片化的特点。不同国家和地区在AI成熟度、网络连接、数据中心容量、电力成本等方面存在差异，同时数据主权和隐私合规又进一步限制了数据和模型跨区域流动。这使得企业很难简单复制一套AI基础设施。

有的市场算力资源充足，但距离用户较远；有的市场用户密集，却缺乏足够的数据中心和电力；有的数据可以跨区域流动，有的数据则必须留在本地。于是，AI基础设施实际上同时面对三个变量：算力、距离和合规。

而这三件事情往往并不指向同一个答案。算力集中，可以获得规模优势，却可能牺牲延迟；算力下沉，可以降低响应时间，却会增加资源利用和运维复杂度；数据留在本地有利于满足合规，但模型未必就在当地。这也是为什么，Akamai强调的并不是简单的“边缘化”，而是分布式基础设施背后的动态调度能力。

但当AI真的开始在这些不同位置运行，新的问题又来了。谁有权调用这些AI？AI又有权做什么？

四、AI Agent把安全问题，从“访问”推向了“行动”

AI Agent带来的变化，则直接改变了安全问题的性质。Reuben Koh认为，AI带来的安全风险与传统应用并不完全相同。因为AI并不是一个孤立的软件，而是由软件、硬件、人员、身份、数据和工作负载共同构成的生态系统。