A Anthropic amplia o acesso de avaliadores de IA independentes com o METR
A Anthropic disse em 15 de outubro de 2026 que começou a dar acesso semelhante ao dos funcionários a uma equipe da METR, uma organização sem fins lucrativos que avalia modelos de IA de fronteira, como parte de um esforço mais amplo para aprofundar a revisão independente de suas práticas de segurança. A empresa afirmou que o METR publicará os resultados de suas avaliações de risco e que o acordo visa aumentar a responsabilidade pública enquanto protege informações sensíveis.
Evidências e contexto
Em sua atualização, a Anthropic afirmou que a equipe do METR foi integrada com hardware da empresa, espaço de escritório e acesso a ferramentas e sistemas internos que estão "aproximadamente no mesmo nível" com os usados por suas próprias equipes de avaliação de risco. A Anthropic disse que, fora de categorias restritas como dados de clientes, informações privilegiadas entre advogado e cliente e detalhes da arquitetura do modelo, os funcionários são incentivados a compartilhar informações com o METR da mesma forma que fariam com um colega que trabalha no risco de alinhamento.
A empresa afirmou que o METR pode publicar sua análise dos níveis de risco, incidentes ou práticas da Anthropic sem veto da Anthropic. A Anthropic pode exigir redações para informações que se enquadrem nas categorias protegidas predefinidas, e o METR pode declarar publicamente se acredita que essas redações foram justificadas, desde que não revele o material redigido. A Anthropic afirmou que o engajamento se limita a uma pequena equipe operando sob acordos executáveis e que outros funcionários do METR estão isolados do trabalho.
A Anthropic descreveu três níveis para acesso dos avaliadores. O primeiro nível um cobre revisões de escopo restrito, onde a Anthropic controla o acesso e a publicação requerem aprovação da empresa. O dois nível permite mais acesso e publicação sem aprovação, ao mesmo tempo em que permite redações de categorias específicas. O três nível é o modelo semelhante ao funcionário atualmente em vigor com o METR. A Anthropic disse que a SecureBio está atualmente no primeiro um nível, revisando o capítulo sobre armas químicas e biológicas do Relatório de Risco de agosto da Anthropic após uma revisão piloto de um relatório anterior, enquanto as discussões com organizações incluindo a Hugging Face ainda estão em estágio inicial.
A empresa também afirmou que está trabalhando com a Accenture e o corpo docente em uma parceria de avaliação incorporada que inclui modelos de red-teaming, avaliações de alinhamento, testes de salvaguardas e desenvolvimento de capacidades. A Anthropic afirmou que o programa é voluntário e argumentou que toda empresa de IA de vanguarda deve adotar arranjos de avaliação independente semelhantes.
A atualização segue o anúncio da Anthropic em 18 de setembro de 2026 de uma parceria de avaliação embutida com a Accenture. Nessa divulgação anterior, a Anthropic disse que financiaria diretamente o trabalho da Accenture, um detalhe de financiamento relevante ao avaliar a independência dos avaliadores. Declarações separadas da empresa disseram que ambos os lados esperam investir pelo menos $1 bilhão ao longo de cinco anos em segurança IA; esses números são compromissos prospectivos, não gastos concluídos.
A Anthropic enquadrou o esforço como uma forma de fechar a lacuna de informação entre o que avaliadores independentes podem ver e o que uma empresa de IA de vanguarda sabe sobre seus próprios sistemas. A empresa afirmou que não pode compartilhar publicamente todas as informações relevantes para segurança porque alguns detalhes podem ajudar atores maliciosos ou envolver sensibilidades comerciais, incluindo dados de computação e treinamento.