OpenAI 承诺将 $2 百万美元用于儿童人工智能安全研究
OpenAI 宣布承诺投入 $2 万美元,支持有关人工智能 (AI) 及其对儿童安全与福祉影响的研究。该承诺是在巴黎和平论坛上提出的,OpenAI 在会上签署了安全人工智能儿童参与宪章。此举是为了确立全球青少年 AI 安全标准并促进政府、研究人员、民间社会及行业相关方之间的合作。
关注风险与机会的衡量
这项资金将支持儿童权利与保护在人工智能时代的联盟下的科学研究网络。OpenAI 的贡献旨在开发可以让研究人员使用的共享工具,以衡量人工智能对年轻人的风险与机会。这些工具旨在为创造更安全的 AI 产品和更有效的政策框架提供信息。
参与宪章概述了安全、适龄人工智能的原则,并制定了一项确保研究结果独立性的研究计划。研究团队将对其结论保持控制权,所有结果——无论是积极、消极还是不确定——都会被公布,以促进透明度和问责制。
建立更安全 AI 的证据
这一倡议建立在 OpenAI 之前对全面青少年 AI 安全立法的倡导基础上。该组织呼吁制定包括适龄保护措施、家长工具、定期风险评估和有意义的问责措施的框架。OpenAI 强调它致力于与欧洲政策制定者共同合作,推动欧盟儿童法案,并与全球合作伙伴合作提升年轻人的保护与机会。
通过支持这项研究,OpenAI 旨在应对最大化人工智能对儿童的益处,同时减轻对其安全及发展的风险这一双重挑战。预计研究结果将有助于制定务实的保护措施和基于证据的政策,从而优先考虑儿童在人工智能时代的权利与福祉。