Microsoft Research представи на 16 ноември TokenEconomizer — външен контролер за разходите на програмни AI агенти. Той използва предишни сесии в един проект, вместо всяка следваща задача да започва без натрупания работен контекст. Основното изследване е от октомври; новият повод е подробният технически разбор.
Публикацията и публичното хранилище описват работа без промяна на основния модел. Решението не е автоматично намаление на цената на всеки токен. То се опитва да намали ненужната работа, която агентът извършва и заплаща.
Три различни намеси
Контролерът извлича кратки знания за проекта, ограничава зареждането на неизползвани инструменти и реагира при повтарящи се неуспешни опити. Хранилището уточнява важна граница: ако след насочване агентът още е блокирал, отвореният плъгин уведомява разработчика, вместо сам да прекратява задачата.
Авторите съобщават средно намаление на разходите с 18,4–30,9% при 277 задачи за поправка на дефекти от шест хранилища и пет комбинации агент–модел. Това са техни измервания, не изпитание на SIExpo. Резултатът зависи от поредицата задачи и не обещава същия процент за всеки проект.
Описаният плъгин пази наученото локално и няма нужда от собствен API ключ. Това не превръща извикванията на основния агент в безплатни. Също така не доказва, че всеки лог е безопасен за дългосрочно съхранение: съдържанието му зависи от реалната работа на екипа.
Кога подобна памет е полезна
Нашият редакционен извод е, че най-смислената единица за сравнение е поредица от задачи в един и същ проект. Ако агентът за първи път научава структурата му, помощният контролер може да добави разход. Ползата се търси в следващите сесии, когато същите факти иначе биха били откривани отново.
За собствено изпитание екипът може предварително да избере еднакви критерии за успешна поправка и да записва общата цена, включително помощните заявки. След това да сравни дали намалението идва от по-малко излишни действия или от пропускане на необходимите проверки. Това е предложен метод, а не проведено от нас внедряване.
Полезен пример е знание за командата за тестове. То спестява търсене само докато остава вярно. След промяна на проекта същият запомнен съвет може да започне да пречи. Следователно възможността за оттегляне на остарели бележки е толкова важна, колкото създаването им.
TokenEconomizer насочва вниманието към работния процес около модела. Той предлага проверима хипотеза: натрупаният опит може да направи повторната работа по-икономична. Дали това се случва в конкретен екип трябва да се установи с реални задачи и запазено качество.



