Anthropic сообщает о прогрессе в доказуемом выводе для больших языковых моделей

Anthropic заявила, что добилась прогресса в области доказуемого вывода для крупных языковых моделей, выпустив исследовательский прототип FlashProve, предназначенный для криптографического подтверждения того, что ответ исходит от определённой модели. В своём 2026-11-02 объявлении компания сообщила, что система может генерировать доказательства для Llama 4 Maverick с скоростью около 110 токенов в секунду на одном H100 GPU, с размером доказательства около 19 МБ на 1,024-токена.

Что говорит Anthropic, что делает FlashProve

По данным Anthropic, доказуемое вывод предназначено для решения базовой проблемы верификации: сегодня пользователи не могут надёжно определить только по результатам, пришёл ли ответ от модели, которую они собирались запросить. Компания заявила, что этот подход может поддерживать потребительские приложения, внутренние сценарии безопасности и проверку соответствия требованиям ИИ к пейсингу. Anthropic представила FlashProve как открытый прототип, построенный на zkSNARK — разновидности нулевого раскрытия и лаконичного аргумента, который может скрывать веса модели, позволяя при этом проверять результат вывода.

Anthropic сообщила, что система была протестирована на крупной модели Llama 4 Maverick, описанной в посте как модель с 400миллиардами параметров и смесь экспертов, использующая 4-битные квантовые веса и целочисленные арифметики в предварительном заполнении. Компания заявила, что доказательство с помощью FlashProve занимает примерно 70 – 95 времени GPU на запуск самой модели на vLLM — распространённой открытой библиотеке выводов. В объявлении не было предложено независимого бенчмарка и не указано, что результаты были воспроизведены извне.

Артефакты и утверждения на верификацию

Anthropic сообщила, что публикует пять артефакты: исследовательский пост, технический отчёт, описание протокола, исполняемый код с приводителем и два верификаторами, а также бережливые доказательства для высших математических утверждений, а также интерактивный визуализатор для аудита теорем. Компания сообщила, что код, бережливые доказательства и документация будут выпускаться под лицензией Apache 2.0.

В сообщении также говорится, что работа представляет собой обновление прогресса, а не завершенную исследовательскую повестку. Anthropic заявил, что использует высшие аудитируемые вычисления в Lean для поддержки заявленных гарантий безопасности, и отметил, что приверженность модели и доказательствам выводов направлены на скрытие веса модели. В объявлении не говорится, что система скрывает архитектуру модели.

Контекст и ограничения

Доказуемое вывод направлено на целостность вычислений, а не на определение точности, безопасности или непредвзятости ответа модели. В посте Anthropic говорится, что подход актуален для независимых оценщиков, которым нужно знать, что тестируемая модель — это один модель, обслуживаемой, для клиентов, использующих сторонний сервис маршрутизации, а также для случаев, когда злоумышленник может вмешиваться в поток токенов.

Отчетная производительность и размер доказательств компании специфичны для описанного бенчмарка, и сравнения бенчмарков между предыдущими системами требуют осторожности, поскольку размеры моделей, аппаратное обеспечение, числовые представления, пакетирование и покрытие доказательств различаются. Anthropic не раскрыла дату следующего подтверждённого выпуска продукта или коммерческого запуска в объявлении.