A OpenAI adiciona salvaguardas para adolescentes, limites de violência e relatórios de segurança
A OpenAI afirmou que está ampliando os controles de segurança no ChatGPT, incluindo limites mais rígidos para conteúdos relacionados à violência, proteções adicionais para usuários sob 18 e um Relatório Público de Segurança Comunitária planejado. A empresa afirmou que as mudanças visam reduzir o uso indevido enquanto melhora a transparência sobre como seus sistemas detectam e respondem a atividades prejudiciais.
Evidências e contexto
No anúncio de 30 de outubro de 2026 , a OpenAI afirmou que fez mais de 200 encaminhamentos para as autoridades em Q3 2026 e descreveu esses encaminhamentos como parte de sua abordagem para lidar com ameaças iminentes de violência. A empresa afirmou que depende de especialistas em saúde mental e comportamento para ajudar a avaliar casos difíceis e que seus sistemas são projetados para detectar, revisar e escalar ameaças críveis.
A OpenAI afirmou que lançará um Relatório de Segurança Comunitária focado na prevenção da violência e outras questões de segurança comunitária, bem como na eficácia de suas salvaguardas. O primeiro relatório está programado para o início de 2027 e cobrirá a segunda metade de 2026, com atualizações planejadas a cada seis meses depois. A empresa afirmou que o relatório incluirá exemplos anonimizados, mudanças de política, novas mitigações e dados de apoio.
O anúncio também reforça a forma como o ChatGPT responde a perguntas sobre ataques em massa passados. A OpenAI disse que o sistema fornecerá informações menos detalhadas nessas áreas, incluindo detalhes sobre armas e equipamentos usados e como eles foram obtidos, bem como comparações detalhadas de danos que podem aumentar a notoriedade de um atacante. A empresa afirmou que esses limites se aplicam independentemente da idade ou intenção.
Para os adolescentes, a OpenAI afirmou que está adicionando restrições adicionais a informações relacionadas a armas, incluindo informações práticas sobre armas e sistemas de segurança que poderiam ser usados de forma indevido para facilitar a violência. A empresa afirmou que os adolescentes ainda podem usar o ChatGPT para prevenção, desescalada, suporte e para alcançar um adulto de confiança. A OpenAI também afirmou que fortaleceu a previsão de idade para poder avaliar continuamente novos sinais e colocar os usuários na experiência under-18 quando apropriado, com um caminho de verificação de proteção de privacidade para adultos que forem colocados por engano lá.
A OpenAI afirmou que também está se baseando em trabalhos anteriores que usam resumos factuais curtos de sinais de alerta de conversas anteriores, e que pode encerrar automaticamente as conversas quando uma conversa mostrar sinais de fixação em violência ou danos graves. Se isso acontecer repetidamente, a empresa afirmou que pode pausar temporariamente a conta. Acrescentou que pais vinculados por seus controles parentais podem receber alertas de segurança, incluindo avisos em alguns casos de desativação por violações de políticas de violência, e que está trabalhando em notificações caso a conta de um adolescente seja pausada para discussões repetidas sobre violência.
A empresa afirmou que as salvaguardas começarão a ser implementadas nas próximas semanas. Não foi fornecido um cronograma completo de implantação para todas as funcionalidades, e algumas medidas, incluindo interrupção automática do chat e possíveis pausas na conta, foram descritas como trabalho contínuo, e não como recursos universais já existentes.