Character.ai 通过人工智能和合作伙伴关系加强安全措施

Character.ai 正在加倍努力履行对用户安全的承诺，通过一系列更新来应对人工智能驱动娱乐领域的一些最紧迫的挑战。该公司于 9 月 3 日宣布了其最新措施，重点提升自残检测、内容审核透明度以及针对未满 18 岁用户的控制。

去年，Character.ai 因取消未满 18 岁用户的开放式聊天功能而登上新闻头条——这一有争议的举措被公司视为其最重要的安全决策之一。现在，它正基于该基础推出新的工具和合作伙伴关系，旨在解决用户保护和社区反馈方面的问题。

人工智能驱动的自残检测

最显著的更新之一是自残检测系统的改进。Character.ai 的安全保障措施现在会分析整个对话内容，以捕捉渐进性的困扰信号，而不仅仅是对单独的信息作出反应。这种方法旨在为有困难的用户提供通向现实世界帮助的途径，而不是突然中断对话。

为了加强这一举措，Character.ai 与Koko和ThroughLine等组织建立了合作关系。Koko 提供免费的自助情感支持工具，而 ThroughLine 将用户与全球本地化的危机资源连接起来。这些合作反映了科技领域的更广泛趋势，即公司将心理健康专业知识整合到其平台中，以主动降低风险。

内容审核透明度和用户控制

Character.ai 还在解决社区对内容审核的担忧。创作者现在会在其内容被审核时收到通知，并获得审核决定的解释。同时，平台还引入了一个申诉流程，允许创作者对审核操作提出异议。

此外，平台为用户提供了更多控制其体验的选择。新功能允许用户屏蔽其他用户，包括他们的内容和互动，从而有效创建个性化过滤器，为更安全的线上环境提供保障。

针对未满 18 岁用户的安全措施

该公司继续优化针对未满 18 岁用户的安全保障，部署了专有的年龄核验技术以确保准确的年龄验证。对于家长，Character.ai 通过与k-ID（一家领先的年龄和身份验证公司）的合作，增强了家长洞察工具。该工具提供每周用户活动更新，让家长更清楚青少年如何与平台互动。

通过全球合作伙伴关系加强安全

为应对更广泛的在线安全风险，Character.ai 已与ConnectSafely、互联网观察基金会 (Internet Watch Foundation)和StopNCII等组织合作。这些合作伙伴在预防儿童剥削、非自愿影像滥用以及促进数字健康方面拥有专业知识。通过与这些全球倡议对齐，公司正在将其安全网络扩展到自身系统之外。

行业背景：安全作为竞争优势

Character.ai 的安全更新反映了科技和加密货币领域的更广泛趋势，即主动风险预防和透明度正成为关键的差异化因素。今年早些时候，Uber 在其 2026 年治理报告中强调了“安全至上”的核心价值，而 CompScience 在 4 月推出了一个人工智能驱动的安全工作计划平台，以降低工作场所风险。

对于 Character.ai 来说，这些更新不仅可能保护用户，还可能将该平台定位为负责任的人工智能创新领导者。随着行业应对快速技术变化的挑战，此类安全举措或将成为赢得用户信任和维护法规合规的关键。

随着人工智能的持续发展，风险也在演变。Character.ai 在安全、透明度和合作方面的持续投资表明了其负责任地塑造人工智能娱乐未来的决心。