OpenAI Engage $2 Millions pour la Recherche sur la Sécurité de l'IA pour les Enfants

OpenAI a annoncé un engagement de $2 millions pour soutenir la recherche sur l'intelligence artificielle (IA) et son impact sur la sécurité et le bien-être des enfants. L'engagement a été fait lors du Forum de la Paix de Paris, où OpenAI a signé la Charte d'Engagement pour une IA plus Sûre pour les Enfants. Cette initiative fait partie d'un effort plus large visant à établir des normes mondiales pour la sécurité de l'IA chez les jeunes et à favoriser la collaboration entre gouvernements, chercheurs, société civile et acteurs industriels.

Accent sur la Mesure des Risques et Opportunités

Le financement soutiendra le réseau de recherche scientifique sous la Coalition pour les Droits et la Protection des Enfants à l'ère de l'IA. La contribution d'OpenAI vise à développer des outils partagés que les chercheurs pourront utiliser pour mesurer les risques et les opportunités de l'IA pour les jeunes. Ces outils sont destinés à éclairer la création de produits d'IA plus sûrs et de cadres politiques plus efficaces.

La Charte d'Engagement présente des principes pour une IA sûre et adaptée à l'âge, accompagnée d'un programme de recherche qui garantit l'indépendance des résultats. Les équipes de recherche garderont le contrôle sur leurs conclusions, avec tous les résultats—positifs, négatifs ou non concluants—publiés pour promouvoir la transparence et la responsabilité.

Construire des Preuves pour une IA plus Sûre

Cette initiative s'appuie sur l'engagement précédent d'OpenAI en faveur d'une législation globale sur la sécurité de l'IA pour la jeunesse. L'organisation a appelé à des cadres qui incluent des mesures de protection adaptées à l'âge, des outils pour les parents, des évaluations régulières des risques et des mesures de responsabilité significatives. OpenAI a souligné son engagement à collaborer avec les décideurs européens sur la loi européenne sur les enfants et à s'engager avec des partenaires mondiaux pour améliorer les protections et les opportunités pour les jeunes.

En soutenant cette recherche, OpenAI vise à relever le double défi de maximiser les avantages de l'IA pour les enfants tout en atténuant les risques pour leur sécurité et leur développement. Les résultats devraient contribuer au développement de protections pratiques et de politiques basées sur des données probantes qui priorisent les droits et le bien-être des enfants à l'ère de l'IA.