Anthropic представи на 2 ноември FlashProve — изследователски прототип за криптографска проверка, че определен AI отговор е получен от предварително посочен модел. Идеята е доставчикът да поеме проверим ангажимент към конкретни тегла, без да ги публикува. Това би помогнало например при оценяване на модел или използване на посредник, който препраща заявки. Материалът е непокрито изследване от последните три дни, а не нов продукт, пуснат тази сутрин.

Какво действително се проверява

Публичното хранилище описва три стъпки: ангажимент към модела, създаване на доказателство и проверка. Проверката може да се изпълни на обикновен CPU, без проверяващият да притежава теглата. Проектът е обозначен като изследователски артефакт без текуща поддръжка. Публикуваният пример използва Llama 4 Maverick и контекст от 1024 токена.

Докладът обяснява математическа гаранция за съответствие с определено изчисление. Тя е различна от проверка на твърдение за света. Ако моделът произведе грешна дата, валидното доказателство може да потвърди, че именно този модел е избрал съответните токени. То няма да превърне датата в правилна. Това разграничение е редакционно обяснение на обхвата, а не открит нов дефект в прототипа.

Цената на доказването

Anthropic отчита около 110 обработени токена в секунда при доказване на предварителната обработка (prefill) върху един H100 за 4-битова версия на 400-милиардния MoE модел. Посоченото доказателство е приблизително 19 MB за заявка от 1024 токена. Теглата се държат в системната RAM и се подават на части към GPU; един H100 не означава, че целият модел се побира в неговата видеопамет. Компанията оценява GPU времето на около 70–95 пъти времето за съответните заявки във vLLM. Това са резултати на авторите при конкретна конфигурация, а не независимо възпроизведен от нас benchmark или скорост на обикновен чат.

Техническият доклад уточнява, че се доказва целочислен вариант на модела с greedy избор на токени. Произволно семплиране или различна реализация с плаваща запетая може да даде друга последователност. Формалният протокол и бавният verifier в Lean също не означават автоматична формална гаранция за целия бърз изпълним код. Тези ограничения са съществени при оценката на готовността за внедряване.

Къде може да бъде полезна проверката

Нашият редакционен пример е услуга, която обещава отговор от модел А, но би могла да изпрати заявката към модел Б. Проверимо обвързване с теглата би добавило доказателство за произхода на изчислението, независимо дали двата отговора изглеждат еднакво убедителни. За това първо трябва да е известно какъв ангажимент представлява договорения модел и какъв точно обхват покрива доказателството.

Краткият контекст и разходът правят този пример различен от масово внедрен AI разговор с дълга история. Новината е напредъкът в достъпния за изследване механизъм, с публикуван код и описани ограничения. Не следва, че Claude вече прикрепя подобно доказателство към всеки потребителски отговор или че системата удостоверява безопасността на всяка изпълнена задача.