Relatos antrópicos avançam na inferência comprovável para grandes modelos de linguagem

A Anthropic afirmou que avançou na inferência comprovável para grandes modelos de linguagem, lançando um protótipo de pesquisa chamado FlashProve, projetado para provar criptograficamente que uma resposta veio de um modelo específico. Em seu anúncio de 2026-11-02 , a empresa afirmou que o sistema pode gerar provas para Llama 4 Maverick a cerca de 110 tokens por segundo em uma única GPU H100 , com um tamanho de prova de cerca de 19 MB por solicitação de 1,024 tokens.

O que a Anthropic diz que o FlashProve faz

Segundo a Anthropic, a inferência comprovável tem como objetivo resolver um problema básico de verificação: os usuários hoje não conseguem dizer de forma confiável apenas pela saída se uma resposta veio do modelo que pretendiam consultar. A empresa afirmou que a abordagem poderia suportar aplicações de consumo, casos de uso de segurança interna e esforços para verificar a conformidade com os requisitos de ritmo de IA. A Anthropic enquadrou o FlashProve como um protótipo de código aberto construído em torno do zkSNARKs, um tipo de argumento sucinto de conhecimento zero que pode ocultar pesos dos modelos enquanto permite a verificação de um resultado de inferência.

A Anthropic disse que o sistema foi testado em um modelo grande, Llama 4 Maverick, descrito no post como um modelo de 400 bilhões de parâmetros de especialistas que usava pesos quantizados de 4 bits e aritmética inteira em pré-preenchimento. A empresa disse que provar com FlashProve leva cerca de 70 a 95 vezes o tempo da GPU ao rodar o modelo em vLLM, uma biblioteca de inferência open-source comum. O anúncio não forneceu um benchmark independente nem afirmou que os resultados foram reproduzidos externamente.

Artefatos e alegações de verificação

A Anthropic afirmou que está liberando cinco artefatos: o post de pesquisa, um relatório técnico, uma descrição do protocolo, código executável que inclui um provador e verificadores dois, e provas Lean para afirmações matemáticas de alto nível, além de um visualizador interativo para auditar os teoremas. A empresa informou que o código, as provas Lean e a documentação estão sendo lançados sob a licença Apache 2.0.

A publicação também afirmou que o trabalho é uma atualização de progresso, e não uma agenda de pesquisa concluída. A Anthropic afirmou que está usando declarações auditáveis de alto nível no Lean para apoiar as garantias de segurança alegadas, e observou que o compromisso com o modelo e as provas de inferência têm a intenção de ocultar os pesos do modelo. O anúncio não disse que o sistema oculta a arquitetura do modelo.

Contexto e limitações

A inferência comprovável visa integridade computacional, não determinar se a resposta de um modelo é precisa, segura ou imparcial. A postagem da Anthropic diz que a abordagem é relevante para avaliadores independentes que precisam saber que o modelo testado é um que está sendo atendido, para clientes que usam um serviço de roteamento de terceiros e para casos em que um atacante pode adulterar o fluxo de token.

O volume de transferência e o tamanho da prova reportados pela empresa são específicos para o benchmark descrito, e comparações de benchmarks entre sistemas anteriores exigem cuidado porque tamanhos de modelos, hardware, representações numéricas, lotes e cobertura de provas diferem. A Anthropic não divulgou data para o próximo lançamento verificado de produto ou para lançamento comercial no anúncio.