Anthropic 推出企业级前沿防护措施以确保 AI 安全

Anthropic 是一家专注于 AI 安全的研究公司，截至其 2026 年 5 月的最新融资轮，公司估值达到 9650 亿美元。该公司宣布推出企业级前沿防护措施 (Enterprise Frontier Safeguards, EFS)。这一新方案旨在解决随着企业日益将 Anthropic 的高级 AI 模型（如 Claude）集成到工作流程中而出现的数据隐私和误用检测问题。

EFS 将零数据保留 (ZDR) 与强大的防护措施相结合，以检测 AI 系统的潜在误用。与之前的实现方式不同，EFS 中的客户数据存储在完全由企业管理的云基础设施中，而不是由 Anthropic 管理。这种方法旨在平衡法规合规性、数据隐私以及对可疑活动进行监控的操作需求。该方案将于今年秋季晚些时候开始推出，并为符合条件的客户提供 Claude 模型（如 Fable 5 和 Fable 5.1）的临时 ZDR 支持。

应对前沿模型风险

Anthropic 的 Mythos 级模型（包括 Claude Fable 5.1）代表了 AI 智能和自主能力的尖端进展。然而，这些能力也伴随着风险：已记录的误用案例包括欺诈、网络攻击或凭证盗窃。Anthropic 强调，有效检测此类风险通常需要临时保留数据，以分析跨会话和账户的模式。然而，从医疗保健到金融等受监管行业，历来对数据保留持抵制态度，原因是合规性问题。

EFS 通过允许企业在其现有云环境中管理数据存储来解决这一矛盾，使用其自己的加密密钥和访问策略。这确保了敏感数据仍由客户控制，同时使 Anthropic 的自动化系统能够标记潜在的误用行为。

与行业领导者的协作开发

EFS 的开发涉及 100 多家跨金融服务、电信、医疗保健和零售等行业的企业。值得注意的合作伙伴包括高盛 (Goldman Sachs)、Visa 和 Salesforce，以及云服务提供商如亚马逊云服务 (Amazon Web Services)、谷歌云 (Google Cloud) 和微软 Azure。Anthropic 整合了客户反馈，设计出符合严苛法规和操作要求的防护措施，尤其是针对全球系统重要性银行和其他高度监管的行业。

主要功能包括自动安全监控，而无需 Anthropic 员工进行人工审核，确保标记的问题直接由客户自己的安全团队处理。像富国银行 (Wells Fargo) 和 Stripe 等企业已经认可了该系统，强调其在维护数据隐私的同时支持前沿 AI 模型部署的能力。

市场和战略影响

Anthropic 推出 EFS 的举措突显了对平衡创新与安全的 AI 解决方案的日益增长的需求。该公司在 AI 部署上的保守策略——优先考虑防护措施而非快速推出新功能——与其公共利益公司使命相一致，即构建安全且可解释的 AI 系统。这一策略吸引了大量投资者的兴趣，这从其今年早些时候完成的 650 亿美元 H 轮融资中可见一斑。

对于企业而言，EFS 可能通过解决长期以来围绕数据隐私和合规性的担忧，加速前沿 AI 的采用。随着 AI 被嵌入到从金融建模到药物开发的敏感工作流程中，像 EFS 这样的解决方案可能成为负责任扩展的重要工具。Anthropic 与 AWS 和谷歌等云巨头的合作进一步巩固了其在企业 AI 部署中的领导地位。

展望未来

EFS 将逐步推出，预计今年秋季晚些时候会更广泛地提供。感兴趣的公司可以通过 Anthropic 的官方渠道申请获取访问权限。在各行业努力应对利用强大 AI 的同时保持对敏感数据控制的双重挑战时，EFS 代表了弥合这一差距的重要一步。

Anthropic 持续专注于安全，并与受监管行业协作，这使其在企业 AI 领域占据了关键地位，为该行业设定了负责任创新的基准。