OpenAI Se Compromete Con $2 Millones para la Investigación en Seguridad de IA para Niños
OpenAI ha anunciado un compromiso de $2 millones para apoyar la investigación sobre la inteligencia artificial (IA) y su impacto en la seguridad y el bienestar de los niños. La promesa se realizó durante el Foro de la Paz de París, donde OpenAI firmó la Carta de Compromiso por una IA Más Segura para Niños. Esta iniciativa forma parte de un esfuerzo más amplio para establecer estándares globales para la seguridad de la IA en jóvenes y fomentar la colaboración entre gobiernos, investigadores, la sociedad civil y partes interesadas de la industria.
Enfoque en Medir Riesgos y Oportunidades
La financiación apoyará la red de investigación científica bajo la Coalición por los Derechos y Protección de los Niños en la Era de la IA. La contribución de OpenAI tiene como objetivo desarrollar herramientas compartidas que los investigadores puedan usar para medir los riesgos y oportunidades que la IA representa para los jóvenes. Estas herramientas están destinadas a informar la creación de productos de IA más seguros y marcos de políticas más efectivos.
La Carta de Compromiso describe principios para una IA segura y adecuada a la edad, junto a un programa de investigación que asegura la independencia de los hallazgos. Los equipos de investigación mantendrán el control sobre sus conclusiones, y todos los resultados—positivos, negativos o inconclusos—se publicarán para promover la transparencia y la responsabilidad.
Construyendo Evidencia para una IA Más Segura
Esta iniciativa se basa en la defensa previa de OpenAI por una legislación integral de seguridad de IA para jóvenes. La organización ha pedido marcos que incluyan salvaguardias adecuadas a la edad, herramientas para padres, evaluaciones de riesgos regulares y medidas de responsabilidad significativas. OpenAI enfatizó su compromiso de colaborar con los responsables políticos europeos en la Ley de Niños de la UE y de involucrarse con socios globales para mejorar las protecciones y oportunidades para los jóvenes.
Al apoyar esta investigación, OpenAI busca enfrentar el doble desafío de maximizar los beneficios de la IA para los niños mientras se mitigan los riesgos para su seguridad y desarrollo. Se espera que los hallazgos contribuyan a la elaboración de salvaguardias prácticas y políticas basadas en evidencias que prioricen los derechos y el bienestar de los niños en la era de la IA.