Copied


OpenAI推出免费的工具来检测人工智能生成的儿童性虐待材料

realtime news   Nov 17, 2026 08:41 1 Min Read


OpenAI推出了一种新工具,旨在检测儿童性虐待材料(CSAM),包括由人工智能生成的内容,作为其扩大打击网络儿童剥削努力的一部分。该工具通过OpenAI API以零成本提供给经过审查的组织,旨在帮助儿童安全组织和执法部门更有效地识别和处理虐待材料。

先进的CSAM检测技术

新发布的图像分类器能够通过分析虐待的视觉迹象来识别潜在的CSAM,包括人工智能生成的材料。它提供分数,帮助审核人员优先处理需要立即关注的图像。OpenAI与国家失踪和被剥削儿童中心(NCMEC)合作,训练和评估该分类器以进行实际部署。这标志着首个广泛可用的具有特定信号以检测人工智能生成内容的CSAM分类器。

OpenAI强调,这一工具建立在其现有的安全保障基础上,包括禁止CSAM,训练AI模型拒绝请求虐待材料,并对违反其政策的账户采取行动。该公司还在ChatGPT中引入了产品警告,以打断有害行为,并实施24小时的暂停,以防止试图访问虐待内容。

跨组织的合作

意识到儿童安全是一个行业-wide问题,OpenAI与Tech Coalition和ROOST等组织合作,共享对新工具的访问。该公司还参与了Tech Coalition的Lantern项目,该项目通过共享与在线儿童剥削相关的信号促进跨平台合作。OpenAI对其他组织开发的互补工具(如Thorn的Safer CSAM检测系统)表示强烈支持。

对执法和开发者的支持

除了图像分类器,OpenAI还为开发者提供实用资源,并为儿童安全执法调查人员提供支持。这些努力与该公司的儿童安全蓝图相一致,后者概述了其在检测、阻止和报告虐待方面的承诺,同时为家长提供优先考虑儿童安全的技术。

通过提供这些工具并促进跨行业的合作,OpenAI旨在加强全球打击在线儿童剥削的斗争,并为保护儿童的工作提供重要支持。


Read More