Anthropic открыла FlashProve — инструмент для доказуемого инференса. Он позволяет проверить, что ответ сгенерировала именно та модель, которую заявил провайдер, даже без доступа к её весам. Это может пригодиться, чтобы убедиться, что сервис маршрутизации не подменяет дорогую модель более дешёвой, а корпоративная система не использует незаметно изменённую версию.

Провайдер заранее публикует цифровую печать весов модели, а вместе с каждым ответом передаёт файл с криптографическим доказательством. Проверяющий сопоставляет его с печатью и устанавливает подлинность модели. Для этого не нужны ни сами веса, ни GPU — достаточно обычного компьютера.

Доказательство для запроса длиной 1024 токена занимает около 19 МБ, а проверка длится примерно 17 секунд. Это всё ещё намного дороже обычного инференса, но прогресс заметен: предыдущий результат требовал около 14 часов на проверку, а доказательство занимало 93 ГБ.

FlashProve основан на zkSNARK — криптографическом методе, который позволяет подтвердить корректность вычисления, не раскрывая его внутренние данные. Сам подход существует давно, но Anthropic удалось оптимизировать его для моделей размером до 400 млрд параметров и добиться практичной скорости проверки.

Любопытная деталь: согласно описанию проекта, Claude участвовал в ускорении и оптимизации самого инструмента. Пока FlashProve остаётся прототипом, но он показывает, как сделать использование ИИ-моделей более проверяемым — без необходимости доверять провайдеру на слово.