傅兰石(Jonathon Bryce ):Linux Foundation云计算与AI基础设施业务施执行董事、CNCF 与OpenInfra Foundation 执行董事

过去几周,我几乎完成了一次围绕 AI 与开源基础设施的全球观察之旅。
这段时间,我先后参加了KubeCon + CloudNativeCon Europe、MCP Dev Summit New York、PyTorch Conference Europe,随后来到中国,从深圳一路北上,走访并交流了多家科技企业和开源生态参与者。
如果要用一个关键词来概括这段旅程,我会说是:AI around the world。
在不同地区,大家都在讨论 AI,但关注点并不完全相同。在欧洲和美国,很多讨论集中在 AI 工作负载的基础设施、系统治理、应用连接、自动化,以及模型能力的持续提升。而来到中国之后,我看到的是一种更直接、更高频、更工程化的 AI 实践方式。
在这里,AI 已经不只是一个技术趋势,而是正在快速进入企业真实的生产环境和日常工作流。
中国让我看到:AI 正在成为新的工作方式
这次中国行中,让我印象最深的一点是,很多企业已经不再只是讨论“我们应该使用哪个模型”,而是在思考如何把模型、推理基础设施、开源框架和工作流系统真正整合起来。
在很多交流中,我看到企业已经在内部大规模使用不同类型的 AI 工具和 agent,把它们应用到开发、自动化、数据处理和业务流程中。
这种变化让我想起十多年前 IT 消费化的过程。当时,用户不再满足于企业规定的设备和软件,而是希望使用更灵活、更高效的工具。今天,AI 也在发生类似的变化。
企业内部的开发者和员工,正在主动使用 AI 工具来完成工作,并且希望这些工具能够更快、更灵活、更贴近实际需求。
这意味着,AI 不再只是一个由中心化平台提供的能力,而正在变成企业内部不断演化的生产力系统。
开源正在打开 AI 产业的边界
过去一段时间,我们看到 AI 产业快速发展,也看到很多前沿模型公司在推动技术边界。但我越来越清楚地感受到,AI 产业不会只由少数几家公司定义。
开源正在把这个领域真正打开。
在中国,这一点尤其明显。很多企业都在积极使用开源项目,构建自己的 AI 基础设施和应用体系。开源不仅是一种协作方式,也成为企业在 AI 时代保持速度、灵活性和自主创新能力的重要路径。
在一些场景中,开源甚至提供了一条非常务实的道路:当某些硬件、芯片或商业模型服务并不总是容易获得时,企业仍然可以通过开源框架、开源模型和开源基础设施继续快速推进。
这也是为什么我在中国看到的开源热情非常强烈。大家并不是把开源当作补充选项,而是把它视为 AI 时代的核心基础设施。
PyTorch 与 vLLM 在中国的重要性超出我的预期
这次中国行中,我非常明显地感受到,PyTorch 和 vLLM 在中国 AI 生态中的重要性正在快速上升。
PyTorch 已经是 AI 模型训练和研究中的关键开源框架,而 vLLM 则在模型推理层面展现出非常强的价值。尤其是在多模型、多场景、模型快速迭代的环境中,vLLM 的意义不仅是运行模型,而是帮助企业更快接入、测试和部署新的模型能力。
在中国,开源权重模型生态非常活跃。企业会同时关注来自不同团队和公司的模型,并且根据不同任务灵活选择。这样的环境下,推理基础设施变得非常关键。
我会把这个体系理解为三层:
第一层,是推理引擎。比如 vLLM,它需要支持尽可能广泛的模型,并且能够在新模型出现时快速适配。
第二层,是推理基础设施。企业需要能够稳定部署这些引擎,加载模型,并让内部开发者和业务系统可以调用。
第三层,是工作流和编排框架。最终使用者不应该被底层复杂性限制,而是可以根据任务需求,在不同模型之间进行选择、路由和组合。
这三层共同决定了 AI 能力是否能够真正进入企业工作流。
中国企业对模型的态度:更开放,也更务实
另一个让我印象深刻的观察是,中国企业对模型本身并没有很强的单一绑定心态。
在一些市场中,企业可能会选择一个主要模型供应商,然后围绕这个供应商建立企业级使用方式。但在中国,我看到更多的是一种 model-agnostic 的思路。
也就是说,企业并不执着于某一个模型,而是更关注:哪个模型适合当前任务,哪个模型效果更好,哪个模型成本更合适,哪个模型可以更快部署。
这是一种非常务实的工程文化。
在这样的环境下,模型是可以切换的,工作流才是核心。企业真正需要构建的是一种能力:可以持续接入新的模型,可以根据不同任务灵活调度模型,也可以在内部安全、稳定、可治理地提供这些能力。
这对云原生和开源基础设施提出了新的要求。
我们不仅要运行应用,也要运行越来越复杂的 AI 工作负载;不仅要管理服务,也要管理模型、推理、agent 和自动化流程。
Kata Containers在 AI 工作负载中的角色正在变得更加重要
除了 PyTorch 和 vLLM,Kata Containers 也是这次中国行中让我印象很深的一个项目。
随着AI agent和自动化工作流进入企业环境,安全隔离、沙箱化和资源边界变得越来越重要。企业希望 AI agent 能够帮助完成更多工作,但同时也需要明确的安全框架和治理机制。
在我与多家企业的交流中,Kata Containers 经常被提到。很多团队在探索 AI 工作负载沙箱化时,都会把 Kata Containers 作为重要选项,有些已经在生产环境中使用。
这说明,云原生基础设施并没有因为 AI 的兴起而变得不重要。相反,AI 正在为云原生技术带来新的场景。
Kubernetes、Kata Containers、推理引擎和工作流框架,正在共同构成 AI 时代的新基础设施栈。
真正的创新机会,可能在连接层和编排层
今天,模型能力在快速提升,推理引擎也在快速成熟。接下来,我认为会有大量创新发生在连接层和编排层。
也就是:如何把模型、推理基础设施、数据源、工具系统和企业工作流连接起来。
有些人会把这一层称为harness,或者 workflow framework。无论叫什么,它的核心问题都是一样的:如何让 AI 能力真正被组织起来,并在企业环境中被安全、高效、持续地使用。
这也是开源社区可以发挥巨大作用的地方。
因为 AI 系统不会只有一种架构,也不会只有一种模型。未来的企业 AI 环境,一定会是多模型、多框架、多工作流并存的状态。开源可以为这种复杂性提供共同的基础、标准和协作空间。
为什么我更加期待回到上海
这次中国行让我更加期待9/8-9号我们即将在上海举办的开源技术峰会,KubeCon China + OpenInfra Summit Asia + PyTorchCon China。
因为我看到,中国开发者和企业技术团队正在非常认真地构建 AI 时代的基础设施。他们关注的不只是模型本身,也关注如何运行模型、如何优化推理、如何实现安全隔离、如何进行工作流编排,以及如何把这些能力真正带入生产环境。
PyTorch、vLLM、Kata Containers、Kubernetes、OpenStack等项目,都将在这个过程中扮演重要角色。
这也是为什么我认为,上海峰会将会是一个非常重要的交流场景。它不仅是一次技术会议,更是一个让全球开源社区与中国技术生态深入连接的机会。
在 AI 时代,我们需要更多跨区域、跨项目、跨社区的对话。因为真正的问题已经不再是单一技术可以解决的,而是需要整个开源生态共同协作。
AI 的下一阶段,将由开放生态共同推动
这次中国行给我的最大启发是:AI 的下一阶段,不会只由模型公司推动,也不会只由单一平台定义。
真正的创新会来自开放生态、基础设施能力和全球开发者社区的共同推进。
在中国,我看到 AI 正在以非常快的速度进入真实生产环境。企业正在构建多模型、多场景、多工作流的技术体系,而开源正在成为这个体系中不可或缺的基础。
从 PyTorch 到 vLLM,从 Kata Containers 到 Kubernetes 与 OpenStack,开源项目正在支撑 AI 时代新的基础设施需求。
这场变化才刚刚开始。
我期待9月在上海,与更多来自中国和全球的开发者、企业技术团队、开源贡献者继续交流:我们如何共同构建 AI 时代更加开放、灵活、安全和可持续的基础设施。
本文来源于DOIT传媒,文章内容仅供参考,不构成投资建议。
评论列表