4 ноября 2026 г.
FlashProve: вычисление токена Llama 4 Maverick можно проверить на CPU за 21 секунду
В замерах Anthropic от 3 ноября проверка доказательства для Llama 4 Maverick занимает около 21 секунды на CPU без GPU.
FlashProve даёт клиенту криптографическое доказательство: провайдер вычислил ответ с заранее зафиксированными весами модели.
Раньше клиенту приходилось доверять провайдеру в выборе модели. Теперь провайдер фиксирует веса через commitment ID и прикладывает доказательство вычисления. Пользователь проверяет его командой `cp_verify`, не получая сами веса. Anthropic использует для этого zkSNARK, тип криптографического доказательства.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Первый запуск без GPU. Для проверки готового примера нужны Linux, bash и g++ 13+. Из корня официального репозитория Anthropic запускается `verifier/build.sh`, затем команда проверки из Route 1 инструкции Getting started. По инструкции от 3 ноября сборка занимает 1–2 минуты, проверка малого примера укладывается в 2 секунды. Успешный результат возвращает `YES` и код 0.
Собственное доказательство создаёт `examples/quickstart-gpu.sh`: скрипт фиксирует синтетическую модель из 8 слоёв, доказывает запрос на 64 токена и проверяет результат. Для него нужны H100 с 80 GB памяти, CUDA 13.2 Update 2 и gcc/g++ 13.
Проверка большой модели. Сценарий `examples/maverick/run.sh` загружает 232,13 GB публичных 4-bit весов Llama 4 Maverick и создаёт доказательство для 1 токена. Запуск требует 330 GB доступной RAM, 245 GB диска и подготовленного calibration set с файлами, доступ к которым предоставляет Meta.
В замере Anthropic от 3 ноября на одном H100 и 24 CPU система обрабатывала 111,23 ± 0,92 токена/с при 24 запросах с промптами по 1 024 токена. Это скорость обработки входного текста, каждый proof подтверждает следующий токен. Ожидание группы запросов занимало 220,7–225,9 секунды без проверки доказательства.
Создание commitment занимало около 39 минут. Средний proof весил 18,78 MB, клиент дополнительно скачивал 6,24 MB ключевых файлов на commitment и конфигурацию. По расчётам Anthropic, создание доказательств требовало в 71,4 раза больше GPU-времени, чем prefill vLLM при 24 запросах, и в 93 раза больше при максимальной испытанной нагрузке vLLM. Для сравнения компания запускала vLLM в FP8 на 8 H100.
Для реальной проверки клиент заранее получает commitment ID из 64 hex-символов от доверенной стороны по независимому каналу. ID от проверяемого сервера или из пакета с доказательством инструкция использовать запрещает.
Anthropic опубликовала FlashProve как исследовательский артефакт без сопровождения.
Первоисточник