NVIDIA 将机密 AI 推理引入 Blackwell GPU

NVIDIA 推出了其在机密计算领域的最新进展，可在 Blackwell GPU 上实现安全的 AI 推理，同时保持高性能。根据公司于 2026 年 9 月 22 日发布的一篇博客文章，NVIDIA 的机密计算 (Confidential Computing, CC) 框架现已支持在内存加密环境中执行大型语言模型 (LLM) 工作负载，同时保留非机密配置中 96-98% 的性能。

机密计算旨在在活动处理期间保护敏感数据和专有 AI 模型，这是对 NVIDIA 早期 Hopper 代 H100 GPU 功能的扩展。此解决方案适用于医疗、金融服务和政府等高价值、受监管行业，在这些行业中推理期间的数据安全至关重要。通过集成机密虚拟机 (CVM)、加密 NVLink 和机密 Blackwell GPU，NVIDIA 旨在在不显著牺牲性能的情况下实现安全部署。

性能基准测试：最小的开销

在测试中，NVIDIA 使用其 TensorRT LLM 推理框架评估了启用机密计算对性能的影响。测试比较了两种条件下运行的相同工作负载：启用 CC 和禁用 CC。工作负载在配备八个 Blackwell GPU 的 NVIDIA DGX B200 系统上处理，并使用 Intel TDX CVM 进行安全执行。

主要指标包括输出令牌吞吐量和每输出令牌时间 (TPOT) 延迟。在 1-16 的并发级别下，启用 CC 的推理保留了基准吞吐量的 96.1-98.2%，并仅引入了 1.2-4.3% 的延迟开销。对于需要严格安全措施的组织，这些基准测试表明机密性可以与接近峰值的性能共存。

为安全性调整 AI 框架

实施机密计算需要在框架级别进行调整。例如，NVIDIA 调整了 TensorRT LLM 的数据移动机制，以适应加密的主机到设备传输，从而绕过对受保护内存的直接 GPU 访问。NVIDIA 还优化了多 GPU 通信，以弥补 CC 配置中缺少 NVLink SHARP 多播的不足。

这些调整确保了安全执行，同时尽量减少对模型推理管道的干扰。公司强调，这种配置应被视为一个全栈问题，需要工程师同时优化安全性和性能。

战略意义

根据行业估计，到 2030 年 AI 硬件市场预计将超过 1500 亿美元，NVIDIA 在机密计算领域的推进与对安全 AI 解决方案日益增长的需求相一致。该技术在信任、隐私和合规性至关重要的行业中具有直接应用。例如，医疗机构可以安全地分析敏感的患者数据，而金融机构可以在不冒知识产权暴露风险的情况下执行专有模型。

对于交易者来说，NVIDIA 的持续创新强化了其在 AI 硬件市场的主导地位。截至 9 月 22 日，NVIDIA 的股价为 229.26 美元，过去 24 小时上涨 0.82%，市值达到 5.567 万亿美元。押注于 AI 驱动增长的投资者应该关注机密计算在企业和政府部署中的采用，因为这可能进一步巩固 NVIDIA 在 AI 和 GPU 加速计算领域的领先地位。

要探索 NVIDIA 的机密计算产品并开始规划安全的 AI 部署，开发人员可以访问 NVIDIA Trusted Computing 文档 和最新的 TensorRT LLM 功能。随着 Blackwell GPU 现已为安全、高性能 AI 推理设定了标杆，NVIDIA 正在将自己定位为机密 AI 基础设施的首选供应商。