AI联盟推出SAFE准则以加强网络安全

开放安全AI联盟（Open Secure AI Alliance），目前由超过120个组织组成，已经发布了其提出的SAFE（共享AI发现交换）准则，旨在解决AI系统中的网络安全挑战。此公告恰逢8月4日在拉斯维加斯举行的Black Hat网络安全会议的开幕。

SAFE框架旨在创建一种标准化的方法，用于机密报告AI事件和接近失误的情况，分析重复性故障，并分发可操作的建议以减轻系统性风险。主要贡献者包括NVIDIA、思科（Cisco）、CrowdStrike、Hugging Face和红帽（Red Hat），这些公司在Linux基金会的指导下共同努力。根据基金会发布的评论请求（Request for Comments），该准则旨在通过开放协作促进集体网络安全措施。

SAFE准则为何重要

AI系统，特别是具备代理功能的AI，由于其复杂性和潜在漏洞，越来越成为网络攻击的目标。联盟指出：“网络安全是一场没有终点的竞赛。”通过鼓励在受信任的生态系统中共享威胁情报，防御者在应对新兴风险时能够获得显著优势。这种协作方法尤其重要，因为AI技术继续扩展到敏感行业，从医疗保健到自动驾驶汽车。

NVIDIA的关键贡献

作为联盟的创始成员之一，NVIDIA一直处于开发开源工具以保护AI代理的前沿。关键贡献包括NVIDIA实验室的面向对象代理（NOOA），这是一个用于改进AI代理测试和治理的框架，以及NVIDIA OpenShell，这是一个执行严格安全和隐私控制的运行时。这些工具还包括NVIDIA的开源权重模型家族，例如用于代理AI的Nemotron和用于自动驾驶车辆的Alpamayo，它们内置了如加密签名技能和漏洞扫描器等安全和透明功能。

这些发展反映了整个行业在每一层面都加强AI系统安全的更广泛趋势，从身份管理到运行时保护措施。NVIDIA在这一领域的领导地位使得联盟成为塑造AI网络安全未来的重要参与者。

联盟扩大协作努力

联盟的其他重要成员也在为生态系统做出贡献。例如，Okta正在开发代理身份和访问协议，而红帽的开源项目Asago直接将治理政策映射到AI代理行为。亚马逊最近加入了联盟，提供了像Strands Agents和Cedar这样的工具以增强代理安全性和透明性。

另一大公司微软已经发布了多种开源工具，包括用于自动化红队测试的PyRIT和将现实世界事件转化为可重复安全测试的RAMPART。这些贡献凸显了联盟致力于构建开放且可检查的AI安全架构，与一些竞争对手偏向的闭合系统方法形成鲜明对比。

市场影响

联盟对透明性和开放协作的关注可能会影响更广泛的行业实践，尤其是在监管机构和企业要求AI系统更高问责性的背景下。NVIDIA，其当前股价为206.64美元，24小时内上涨2.94%，有望从其领导角色中受益。它对SAFE框架的贡献以及强大的开源工具套件可能会增强投资者对其在不断增长的AI和网络安全市场中长期前景的信心。

随着AI采用的加速，对强大安全措施的需求只会增加。开放安全AI联盟的工作，从SAFE准则开始，代表了以协作和透明方式解决这些挑战的关键一步。利益相关方将密切关注正在进行的进展，尤其是随着联盟继续扩大其成员和贡献。