Препринтът The Memory Trap от 5 ноември 2026 г. сравнява шест AI модела със и без памет. Авторите съобщават, че добросъвестни предишни взаимодействия могат да доведат до пропускани проверки или неподходящи оценки и промени в тестове. Изпитанията са симулации без нападател, концентрирани главно върху едно семейство модели.

Контекстът трябва да пътува с бележката

Проблемът може да възникне при запис или при използване на бележката: първоначалният ѝ обхват се разширява неправомерно. Препринтът не измерва честота на реални инциденти и не установява универсална защита.

За технически контекст проверихме документацията на Anthropic за memory tool. Този инструмент работи с файлове, а съхранението и изпълнението на операциите се управляват от приложението. Запазената между разговори информация позволява продължаване на работа без повторно подаване на цялата история. Документацията препоръчва чувствителната информация и съдържанието на паметта да се управляват внимателно; наличието на файл не го прави доверено разрешение.

Другият разгледан механизъм, Managed Agents memory stores, поддържа документи, версии и права за четене или промяна. Всяка промяна създава версия за одит. Официалните указания предупреждават и за prompt injection през запазени външни материали. Това е отделен риск от разгледания в препринта: злонамерено съдържание може да е опасно, но опасно обобщение може да възникне и без него.

Документацията за compaction описва трета задача: свиване на по-старите реплики до резюме, така че разговорът да остане в контекстния прозорец. То управлява дължината на активния разговор. Постоянното хранилище, резюмето и разрешението за действие трябва да бъдат оценявани отделно; едното не установява автоматично правилността на другите.

Редакционен пример: правило за конкретен проект

Да си представим агент, който подрежда файлове в демонстрационен проект. Потребителят разрешава да премахва временни файлове без ново питане. Полезната памет би запазила проекта, вида файлове и условията на разрешението. Ако остане само „потребителят не иска потвърждения“, при следваща задача изчезва съществената граница. Това е наш илюстративен пример, а не нов експеримент или реален инцидент от публикацията.

За разработчик проверката може да бъде конкретна. Първо се записва очакваното разрешено действие. После се създава сходна задача, в която една важна предпоставка е различна: друг проект, друг собственик на данните или необратим резултат. Успехът трябва да се оценява по спазените условия, а не само по това дали агентът е приключил бързо.

Прегледът на самите бележки е полезен, но не замества изпитване на поведението. Един запис може да изглежда внимателен и пак да бъде приложен неправилно. Затова предложената проверка трябва да включва действителния избор на агента в тестова среда и сравнение с предварително зададеното очакване. Не е необходимо да се използват истински платежни операции или потребителски данни за такъв опит.

Версиите помагат да се проследи кога е възникнала грешна бележка и коя сесия я е използвала. Те обаче не решават смисловия въпрос дали изводът е приложим. Практичният редакционен извод е да се съхраняват произход, обхват и условия заедно със съдържанието и тези полета да участват в проверката преди действие.

Прегледът трябва да различава постоянно предпочитание от еднократно изключение. Желанието за кратки обяснения може да бъде полезно при различни задачи. Разрешението за определен ресурс може да зависи от собственост, обратимост и текуща заявка. Набор от тестове, който само повтаря първоначалната безобидна задача, би пропуснал тази разлика.

Какво остава открито

Препринтът поставя проверим изследователски проблем, без да установява универсално решение. SIExpo не е възпроизвеждал тестовете и не представя предложените тук критерии като доказана защита. Паметта остава полезна, когато спестява повторение; новината е, че нейното правилно припомняне и нейното правилно прилагане изискват различни проверки.

Непосредственото предложение за продуктова оценка е в тестовия план да има промени на контекста. Въпросът е дали агентът може да запази полезно указание и едновременно да разпознае условията, при които то е било подходящо. Това е по-информативно от простата проверка дали може да намери старата бележка.