Copied


OpenAI Lança Ferramenta Gratuita para Detectar Material de Abuso Sexual Infantil Gerado por IA

Alvin Lang   Nov 17, 2026 03:19 0 Min Read


A OpenAI revelou uma nova ferramenta destinada a detectar material de abuso sexual infantil (CSAM), incluindo conteúdo gerado por inteligência artificial, como parte de seus esforços expandidos para combater a exploração infantil online. A ferramenta, disponível sem custo para organizações verificadas através da API da OpenAI, é projetada para ajudar organizações de segurança infantil e a polícia a identificar e abordar materiais abusivos de forma mais eficaz.

Tecnologia Avançada de Detecção de CSAM

O classificador de imagens recém-lançado é capaz de identificar CSAM potencial, incluindo materiais gerados por IA, analisando sinais visuais de abuso. Ele fornece pontuações para ajudar revisores a priorizar imagens que podem necessitar de atenção imediata. A OpenAI colaborou com o National Center for Missing and Exploited Children (NCMEC) para treinar e avaliar o classificador para implantação no mundo real. Este é o primeiro classificador de CSAM amplamente disponível com um sinal específico para detectar conteúdo gerado por IA.

A OpenAI enfatizou que essa ferramenta se baseia em suas salvaguardas existentes, que incluem a proibição de CSAM, o treinamento de modelos de IA para rejeitar solicitações de material abusivo, e a tomada de medidas contra contas que violam suas políticas. A empresa também introduziu avisos de produtos no ChatGPT para interromper comportamentos prejudiciais e implementou suspensões de 24 horas para tentativas de acessar conteúdo abusivo.

Colaboração Entre Organizações

Reconhecendo que a segurança infantil é uma questão que permeia a indústria, a OpenAI está fazendo parcerias com organizações como a Tech Coalition e a ROOST para compartilhar acesso à nova ferramenta. A empresa também está participando do programa Lantern da Tech Coalition, que facilita a colaboração entre plataformas compartilhando sinais relacionados à exploração infantil online. A OpenAI expressou forte apoio a ferramentas complementares desenvolvidas por outras organizações, como o sistema de detecção de CSAM mais seguro da Thorn.

Suporte à Polícia e Desenvolvedores

Além do classificador de imagens, a OpenAI está fornecendo recursos práticos para desenvolvedores e apoio para investigadores da polícia focados na segurança infantil. Esses esforços estão alinhados com o Child Safety Blueprint da empresa, que descreve seu compromisso em detectar, bloquear e relatar abusos, ao mesmo tempo em que empodera os pais com tecnologia que prioriza a segurança infantil.

Ao oferecer essas ferramentas e promover a colaboração entre indústrias, a OpenAI visa fortalecer a luta global contra a exploração infantil online e fornecer suporte crítico àqueles que trabalham para proteger crianças.


Read More