Anthropic открыла FlashProve для проверки инференса без доступа к весам

Anthropic выложила FlashProve — открытый исследовательский прототип для криптографической проверки инференса. Система позволяет проверить, что конкретный ответ был получен от заранее зафиксированной модели, не раскрывая сами веса.

Схема опирается на криптографическое обязательство для набора весов: проверяющая сторона сопоставляет доказательство с промптом и ответом. По замыслу Anthropic, это помогает выявлять подмену модели на уровне роутера или вмешательство в поток токенов.

Ограничения у прототипа заметные. В тесте на 4-битной Llama 4 Maverick доказательства строились примерно со скоростью 110 токенов/с на одной H100, а размер доказательства для контекста на 1024 токена составлял около 19 МБ. Заявленные гарантии относятся к целочисленной модели и greedy decoding; sampled decoding и обычный floating-point инференс могут не совпасть.

Anthropic также открыла код, документацию и формализацию в Lean под Apache 2.0. При этом репозиторий помечен как неподдерживаемый исследовательский артефакт, так что сейчас это скорее ориентир для будущих систем верификации, а не готовый продакшен-слой для существующих LLM API.