Anthropic rapporte des progrès sur l’inférence démontrable pour les grands modèles de langage

Anthropic a déclaré avoir progressé sur l’inférence démontrable pour les grands modèles de langage, en publiant un prototype de recherche appelé FlashProve, conçu pour prouver cryptographiquement qu’une réponse provient d’un modèle spécifié. Dans son annonce 2026-11-02 , la société a indiqué que le système peut générer des preuves pour Llama 4 Maverick à environ 110 jetons par seconde sur un seul GPU H100 , avec une taille de preuve d’environ 19 Mo par demande de 1,024 jetons.

Ce que dit Anthropic que fait FlashProve

Selon Anthropic, l’inférence démontrable vise à résoudre un problème fondamental de vérification : les utilisateurs aujourd’hui ne peuvent pas savoir de manière fiable uniquement à la sortie si une réponse provient du modèle qu’ils souhaitaient interroger. L’entreprise a déclaré que cette approche pourrait supporter des applications grand public, des cas d’usage en sécurité interne et des efforts pour vérifier la conformité aux exigences de pacing de l’IA. Anthropic a présenté FlashProve comme un prototype open source construit autour de zkSNARKs, un type d’argument succinct à connaissance nulle qui peut masquer les poids des modèles tout en permettant la vérification d’un résultat d’inférence.

Anthropic a indiqué que le système avait été testé sur un grand modèle, Llama 4 Maverick, décrit dans le post comme un modèle de 400 milliards de paramètres et un mélange d’experts utilisant des poids quantifiés en bits 4 et de l’arithmétique entière en préremplissage. La société a indiqué que la démonstration avec FlashProve prend environ 70 à 95 fois le temps GPU que le temps d’exécution du modèle lui-même sur vLLM, une bibliothèque d’inférence open source courante. L’annonce n’a pas fourni de benchmark indépendant ni indiqué que les résultats avaient été reproduits à l’extérieur.

Artefacts et affirmations de vérification

Anthropic a indiqué qu’elle publie cinq artefacts : le poste de recherche, un rapport technique, une description de protocole, un code exécutable incluant un démonstrateur et des vérificateurs deux, des preuves Lean pour les états mathématiques de premier niveau, ainsi qu’un visualiseur interactif pour auditer les théorèmes. La société a indiqué que le code, les preuves Lean et la documentation sont publiés sous licence Apache 2.0.

Le post a également indiqué que le travail est une mise à jour de l’avancement plutôt qu’un programme de recherche achevé. Anthropic a indiqué utiliser des déclarations auditables de haut niveau dans Lean pour soutenir les garanties de sécurité revendiquées, et a noté que l’engagement envers le modèle et les preuves d’inférence visent à masquer les poids du modèle. L’annonce ne précisait pas que le système dissimule l’architecture du modèle.

Contexte et limites

L’inférence démontrable vise l’intégrité computationnelle, et non la détermination de la précision, de la sécurité ou du biais de la réponse d’un modèle. Le post d’Anthropic indique que cette approche est pertinente pour les évaluateurs indépendants qui doivent savoir que le modèle testé est le un servi, pour les clients utilisant un service de routage tiers, et pour les cas où un attaquant pourrait manipuler le flux de jetons.

Le débit et la taille des preuves rapportés par l’entreprise sont spécifiques au benchmark qu’elle a décrit, et les comparaisons de benchmarks entre les systèmes précédents nécessitent une attention particulière car les tailles de modèles, le matériel, les représentations numériques, le batching et la couverture des preuves diffèrent. Anthropic n’a pas divulgué de date pour une prochaine sortie de produit vérifiée ni pour un lancement commercial dans l’annonce.