NVIDIA 提出新的 AI 代理安全框架

NVIDIA 的 AI 红队推出了一种详细框架，用于部署更安全的 AI 代理，解决可能使敏感企业系统暴露于网络攻击的关键漏洞。该博客文章于 2026 年 7 月 30 日发布，重点介绍了 AI 代理中经常出现的失败模式，并提出了架构控制措施以降低与这些日益强大的工具相关的风险。

AI 代理通常被比作“数字同事”，它们在企业环境中越来越受欢迎，可用于自动化调试、补丁部署和测试等任务。然而，NVIDIA 的红队发现，许多代理存在访问控制不足、缺乏网络出口限制以及以明文形式暴露秘密的问题，这些问题共同为攻击者提供了利用的机会。

AI 代理部署中的关键漏洞

经过六个月的严格测试，NVIDIA 发现 AI 代理存在四个反复出现的失败点：

• 弱访问控制：许多代理允许广泛访问，使未经授权的用户可以利用企业凭证。
• 任意代码执行（RCE）：像 Bash shell 这样的工具使攻击者可以轻松执行恶意命令或脚本。
• 无限制的网络出口：没有出站网络限制的代理可能会导致数据外泄或直接与攻击者的连接（如反向 shell）。
• 暴露的秘密：API 密钥、令牌和其他敏感凭证通常可以在代理的执行环境中被访问。

例如，NVIDIA 展示了攻击者如何通过利用代理的上下文和命令行工具，使其执行反向 shell。同样，“温水煮青蛙”式攻击逐渐诱导代理在看似合法的工作流中泄露敏感凭证。

NVIDIA 的安全建议

报告强调了确定性架构控制的重要性，而非依赖概率性的 LLM 防御。NVIDIA 建议：

• 实施强访问控制，仅允许经过身份验证的用户进行交互。
• 在像 Docker 或 NVIDIA OpenShell 这样的隔离环境中沙盒化命令执行，并严格遵循最小权限原则。
• 对网络出口应用默认拒绝策略，仅允许连接到严格限定的白名单。
• 将秘密存储在安全的保险库中，并使用临时的、任务专用的令牌。
• 阻止从未经验证的来源任意安装软件包。

基于提示的防御方法（如指示代理避免风险行为）被认为是不可靠的。相反，应该在代理的控制平面之外强制实施控制，以防止被破坏。

为何重要

随着企业越来越多地将 AI 代理集成到关键工作流中，确保强大安全措施的需求也在增加。根据市场研究公司 MarketsandMarkets 的数据，全球 AI 代理市场预计到 2030 年将达到 186 亿美元，年复合增长率（CAGR）为 35.4%。这种快速采用突显了标准化安全实践的紧迫性。

虽然 NVIDIA 的建议主要针对企业部署，但这些见解广泛适用于任何使用代理型 AI 系统的环境。随着 AI 不断自动化更复杂的任务，现在解决漏洞将有助于避免未来的高成本安全漏洞。

对于希望获得更深入技术指导的读者，NVIDIA 还发布了安全代理工作区参考设计，并将在 2026 年美国 Black Hat 大会上进一步展示研究成果。