NVIDIA 今日宣布推出 NVIDIA 开放智能体安全平台。作为一个开放软件平台与参考系统设计，该平台旨在从智能体测试到部署的各个环节强化 AI 安全，并针对运行智能体的软件、硬件、计算和机器人系统，实施全栈治理与管控。
近期的安全事件凸显了组织配备开放、可定制工具的必要性，以加强对长时间运行的智能体的管控。这些事件均呈现出相同的模式 —— 智能体为了完成分配的任务，绕过了应用层的安全管控。
NVIDIA 创始人兼首席执行官黄仁勋表示：“只有解决 AI 安全问题，AI 为社会带来的非凡潜力才能得到充分释放。在不断探索 AI 能力边界的同时，我们必须同步加快对 AI 安全前沿的探索。安全与防护需要依靠全栈工程。NVIDIA 开放智能体安全平台汇聚业界、研究人员和公共部门组织，共享最佳实践、统一评估方法，并推动国际合作。通过共同努力，我们能够提升全球 AI 安全的标准。”
开放智能体安全平台为整个智能体技术栈提供管控能力
NVIDIA 开放智能体安全平台可实现全栈治理与管控，覆盖运行智能体的软件、支撑智能体运行的硬件和计算层，以及在物理世界中执行任务的机器人系统。各组织可根据自身需求，灵活部署该平台的相应组件。
该平台包含 NVIDIA OpenShell™ 安全运行时软件，可为在 CPU 上运行的智能体设定边界。随着智能体在更多系统中承担更多工作，企业需要在模型和智能体 Harness 之外建立一个可强制执行的边界。现已广泛可用的 OpenShell 可提供安全运行时边界，用于管控自主 AI 智能体如何跨开放模型和闭源模型执行任务。
OpenShell 在 NVIDIA Vera 上以极低开销提供这一保护能力。NVIDIA Vera 是首款专为代理式 AI 打造的 CPU。OpenShell 与 Vera 协同配合，既保障了智能体的安全运行，又能以最快的速度完成各项任务。作为一款开源软件，OpenShell 还具备跨平台扩展能力，可适配包括 Arm 和 Intel 在内的第三方计算平台。
NVIDIA 开放智能体安全平台的参考系统设计推出 NVIDIA Sentry。这是一款运行于 NVIDIA BlueField®-4 DPU 上的带外安全监控器，可持续监测智能体行为。Sentry 能够在芯片内实施安全管控，如果 AI 智能体试图越出其软件边界，Sentry 可在数毫秒内将其隔离并停止运行。
Sentry 在 BlueField-4 DPU 上运行，可持续监测智能体活动，并在芯片中独立执行安全策略。它运行在隔离的带外信任域，融合了威胁检测、基于硬件的智能体治理与策略执行，以及数据访问保护等功能，既能实现实时响应，又对智能体和攻击者不可见。
Sentry 基于 NVIDIA DOCA™ 软件构建。借助该软件提供的可编程能力，Sentry 可检查智能体的请求和响应，提供经过认证的遥测数据并验证智能体身份，同时对数据、工具、应用程序接口和服务实施精细化的零信任访问策略。
行业领先企业携手 NVIDIA 强化智能体安全
Anthropic 与 NVIDIA 合作，为智能体技术栈增加了多层安全与管控机制。Claude Managed Agents 将智能体循环部署在独立服务器上，并与执行智能体任务的沙盒相隔离，从而建立安全边界。通过与 OpenShell 和 BlueField 集成，企业能够通过这些沙盒对智能体的访问实施严格管控。
Anthropic 首席商务官 Paul Smith 表示：“企业正将更多关键的工作交由 AI 智能体处理，因此需要对智能体的工作进行指导和验证，尤其是在敏感环境中。Claude Managed Agents 让企业能够清晰掌握每个智能体的工作情况，而 NVIDIA 的平台则进一步在硬件和软件层面强化治理与管控。”
SpaceXAI 正将 NVIDIA 开放智能体安全平台用于 Cursor 编程智能体和 Grok 模型。
SpaceXAI 总裁 Mike Nicolls 表示：“随着客户日益依赖智能体完成实际工作，安全应通过在模型之外智能体无法绕过的额外管控措施予以落实。客户应能够为 Cursor 和 Grok 设置这些限制，并确信限制将切实有效。”
Scale AI 正与 NVIDIA 合作，将 NVIDIA 开放智能体安全平台技术集成至 Scale GenAI Portfolio 的智能体基础设施层。
Scale AI 首席执行官 Francis deSouza 表示：“Scale AI 正在采用 NVIDIA 开放智能体安全平台参考设计，为运行关键任务应用的企业和政府客户构建可靠的代理式 AI 系统，并从一开始就内置隔离、策略执行和审计能力。我们通过明确界定智能体可执行操作的边界，以及确保其始终在授权范围内运行的管控机制，为智能体安全提供支持。”
Salesforce 与 NVIDIA 已将 OpenShell 集成至 Slack，使团队能够直接在 Slack 中管理 OpenShell 智能体活动，包括查看智能体活动和审计事件，以及批准或拒绝智能体提出的额外权限请求，从而在智能体执行任务期间获得更高的可见性与人工监督能力。
SAP 正将 OpenShell 嵌入 SAP Business AI Platform 的 Joule Studio 运行时，以兼顾业务监督与运行时安全。该公司还为 OpenShell 贡献工程研发成果，并与 NVIDIA 合作通过开放安全 AI 联盟推动互操作性标准发展。
埃森哲、Armadin、Cadence、Cognition、CrowdStrike、思科、达索系统、德勤、安永、Hugging Face、IBM、Irregular、Perplexity、微软、SAP、Scale AI、ServiceNow、西门子、新思科技、OpenClaw、Palantir 和 Palo Alto Networks 等 100 多家机构也正在采用 NVIDIA 开放智能体安全平台技术。
Figure、Gecko Robotics 和 Skild AI 等机器人领域的领先企业，也在基于 OpenShell 进行开发，将智能体安全控制机制嵌入到能够在物理世界中执行操作的自主系统中。
花旗和摩根大通等金融服务行业的领先企业正与 NVIDIA 合作，共同推进共享的开源智能体安全技术的发展。
日立能源、美国电力研究协会 (EPRI)、新纪元能源、Quanta Services、SPP、施耐德电气、西门子能源和 Worley 等能源行业领先企业，作为关键基础设施提供商，也正采用 NVIDIA 开放智能体安全平台技术。
基础设施软件领域的领先企业 Canonical、SUSE 和红帽也正将 NVIDIA 开放智能体安全平台集成至广泛使用的操作系统软件中。红帽在其与 NVIDIA 共同研发的企业级 AI 解决方案上运行 OpenShell 和 DOCA，二者均属于 NVIDIA 开放智能体安全平台。其企业级 AI 解决方案，可用于在混合云环境中大规模构建、部署和管理 AI。
NVIDIA 合作伙伴包括 Baseten、思科、CoreWeave、戴尔科技、GMI Cloud、HPE、惠普公司、Irregular、联想、微软、Nebius、Oracle Cloud Infrastructure、Supermicro 和 Together AI 等，正在提供采用并支持 NVIDIA 开放智能体安全平台技术的 AI 基础设施解决方案，助力客户更安全地运行 AI 智能体。
本文来源于DOIT传媒，文章内容仅供参考，不构成投资建议。
评论列表