Anthropic представи на 16 октомври 2026 г. self-assessment — оценяване на разговора от Claude след собствения му отговор. Компанията използва подхода за offline наблюдение и насочване към последващ преглед. Идеята е да се използва вече обработеният контекст, вместо всяка размяна да се чете отначало от отделен скъп анализатор.

За Fable 5 авторите отчитат 78% от разговорите, маркирани от по-силен prompted classifier, и 94% от високоприоритетните при 1% false positives. Те оценяват допълнителното изчисление на под 2% за своя API трафик. Системата не е достатъчна срещу целенасочен нападател. Това са фирмени резултати, а не независимо възпроизведена от SIExpo ефективност.

Какво означава процентът

Нашето обяснение е, че всеки подобен показател трябва да се чете заедно с неговия знаменател. Съвпадение с друг инструмент не е същото като установяване на всички нарушения, които действително са настъпили. Ако сравнителният инструмент също пропуска даден тип проблем, добро съвпадение няма да го разкрие. Това е обща логика на оценяването, а не нова измерена слабост на конкретния метод.

За читателя е полезно да раздели три въпроса. Забелязан ли е подозрителен разговор? Достатъчни ли са наличните сведения, за да бъде оценен? Предприето ли е подходящо действие след прегледа? Тези резултати могат да се различават. Една полезна първоначална отметка не приключва разследването и не установява автоматично намерението на човека.

Защо ниският разход е интересен

Практическият компромис е между обхват и дълбочина. Екип с ограничен ресурс не може да разглежда всеки случай еднакво подробно. По-евтин първоначален сигнал би имал стойност, ако подбира полезно случаите за по-задълбочена работа. От това обаче не следва, че същият сигнал трябва сам да разрешава действие с важни последствия.

В предложен от нас пример вътрешен помощник получава административна задача. Сигналът за риск може да насочи разговора към преглед, но правото да се изпълни командата трябва да идва от разрешенията в системата. Обратно, липсата на сигнал не създава липсващо право. Примерът обяснява проектна граница; не описва нова функция, обявена за Claude.

Кой носи отговорност за следващата стъпка

Като по-стар общ контекст NIST AI RMF 1.0 организира риска чрез управление, определяне на контекста, измерване и управление на конкретните рискове през жизнения цикъл. Рамката свързва документацията, наблюдението и отчетността. Тя не валидира резултатите на Anthropic и не предписва конкретно този метод за самооценка.

Нашият извод за бъдещо внедряване е първо да се определи собственикът на сигнала и процедурата за спорен случай. После трябва да се провери как изглеждат нормалните и проблемните ситуации за собственото приложение. Копиране на чужд процент няма да покаже колко работа ще се натрупа в конкретната опашка за човешки преглед.

Оценката трябва да се повтаря при промяна на модела, инструментите или правилата на услугата. Иначе измерването ще се отнася до предишна система. Полезно е да се пазят и основанията за човешкото решение, за да може последваща проверка да различи грешна първоначална оценка от неподходящо действие след нея.

Изследването предлага конкретна посока за по-мащабно наблюдение на AI разговори. То не решава само въпросите за разрешения, контрол над данни и човешка отговорност. Същественото е как сигналът участва в цялата система и дали действително помага на отговорните хора да откриват и разглеждат проблеми навреме.

Редакционна проверка: 2026-10-19T06:33:53.177083+00:00 (UTC). Корица: концептуална AI илюстрация, не документална снимка.