OpenAI Compromete $2 Milhões para Pesquisa em Segurança de IA para Crianças

A OpenAI anunciou um compromisso de $2 milhões para apoiar pesquisas sobre inteligência artificial (IA) e seu impacto na segurança e bem-estar das crianças. O compromisso foi feito durante o Fórum da Paz de Paris, onde a OpenAI assinou a Carta de Compromisso por uma IA Mais Segura para Crianças. Esta iniciativa faz parte de um esforço mais amplo para estabelecer padrões globais para a segurança de IA voltada para a juventude e promover a colaboração entre governos, pesquisadores, sociedade civil e partes interessadas da indústria.

Foco na Medição de Riscos e Oportunidades

O financiamento apoiará a rede de pesquisa científica sob a Coalizão pelos Direitos e Proteção das Crianças na Era da IA. A contribuição da OpenAI visa desenvolver ferramentas compartilhadas que os pesquisadores possam usar para medir os riscos e oportunidades da IA para os jovens. Essas ferramentas são destinadas a informar a criação de produtos de IA mais seguros e quadros de política mais eficazes.

A Carta de Compromisso delineia princípios para uma IA segura e adequada à idade, juntamente com um programa de pesquisa que garante a independência das descobertas. As equipes de pesquisa manterão o controle sobre suas conclusões, com todos os resultados—positivos, negativos ou inconclusivos—publicados para promover transparência e responsabilidade.

Construindo Evidências para uma IA Mais Segura

Essa iniciativa se baseia na defesa anterior da OpenAI por uma legislação abrangente de segurança de IA para jovens. A organização tem solicitado estruturas que incluam salvaguardas adequadas à idade, ferramentas para pais, avaliações de risco regulares e medidas de responsabilidade significativas. A OpenAI enfatizou seu compromisso em colaborar com os legisladores europeus sobre o Ato de Crianças da UE e interagir com parceiros globais para aprimorar as proteções e oportunidades para os jovens.

Ao apoiar essa pesquisa, a OpenAI visa enfrentar o desafio duplo de maximizar os benefícios da IA para as crianças enquanto mitiga os riscos para sua segurança e desenvolvimento. Espera-se que as descobertas contribuam para o desenvolvimento de salvaguardas práticas e políticas baseadas em evidências que priorizem os direitos e o bem-estar das crianças na era da IA.