Препринтът The Resolution Hypothesis от 17 ноември разглежда ограничение в еволюцията на AI агенти: оценяването може да не различава полезно изменение от случаен по-добър опит. Авторите изследват седем метода и шест модела с над 10 милиона извиквания на езикови модели. Техният извод е, че предлагането на промени и надеждното им разпознаване като подобрения са различни задачи. Изследването не е присъда срещу всяко самоусъвършенстване и не доказва недобросъвестност на други екипи.
Две отделни части на един цикъл
Една система може да предложи нова инструкция, умение или организация на работата. После друг механизъм решава дали предложението заслужава да остане. Ако вторият механизъм е неточен, наличието на добри предложения не гарантира полезна следваща версия. Това е основният аналитичен проблем, върху който е построена хипотезата.
Проектната страница представя повторни оценки и примери за преки пътища в тестовете. Авторите разграничават истинска преносима полза от приспособяване към правилата на оценяващия механизъм. Те предлагат по-ясно отчитане на вариацията и отделно изучаване на предлагането и избора. Тези заключения са от тяхната експериментална програма, а не универсален измерител за всички агентни продукти.
Как случайният успех може да изглежда като развитие
Нека използваме редакционен пример. Две версии решават една и съща трудна задача. Едната случайно намира подходящ файл по-рано, а другата губи време в неподходяща посока. Ако запазим само този опит, можем да припишем разликата на промяната в инструкцията, дори тя да няма стабилна полза.
Ако след всеки такъв опит приемаме по-добре изглеждащата версия, изборът може постепенно да натрупва късмет, вместо устойчиво умение. Обратното крайно решение също има цена: прекалено предпазливият механизъм може да не приема никоя малка промяна. Полезният въпрос е колко силен сигнал е нужен, за да има основание за избор.
Резултатът и неговата несигурност
Да съобщим резултат означава да посочим повече от най-добрия процент. За сравнение са важни повторенията, диапазонът на резултатите и условията. Разлика от няколко пункта има различно значение, ако една и съща версия естествено варира повече от нея. Това е общият статистически прочит, който прави темата практична за разработчиците.
Един екип би могъл да раздели оценката на два въпроса: има ли полезни предложения сред кандидатите и успява ли неговият механизъм да избере именно тях? Така неуспешният избор не се бърка с липса на добри идеи. Подобно разделение прави и бъдещите подобрения по-целенасочени: може да е нужна по-добра проверка, вместо по-сложен генератор на кандидати.
Какво означава това за ежедневната работа
Редакционен пример е агент, който подготвя табличен отчет. Ако оценяващият проверява само наличието на файл и очаквано заглавие, промяна, която ги създава по-надеждно, може да получи по-висока оценка, без числата вътре да са правилни. За да се оценява действителната цел, проверката трябва да обхване съдържанието и произхода на данните. Това не е описан тук експеримент от статията, а илюстрация на разминаването между сигнал и цел.
Същата логика важи за цена и време. По-бърз резултат има стойност, ако остава същата полезна работа. Експериментът трябва да пази това условие, иначе оптимизацията може да промени самата задача. Затова оценяващият механизъм е част от инженерния продукт, не административно приложение към него.
Трудното измерване не е непременно безполезно. Един инструмент може да различава голяма промяна, но да е неподходящ за класиране на няколко много близки кандидата. Ако двете решения се представят като еднакво сигурни, инженерният проблем остава скрит.
Полезният дневник на развитието пази началната версия, приетите изменения, отхвърлените кандидати и повторните резултати. Така може да се провери дали видимият напредък оцелява върху нова работа, вместо само да изглежда по-добре в историята, от която е избиран.
Resolution Hypothesis насочва вниманието към по-добро измерване, а не към отказ от агенти. За читателя най-полезният извод е да гледа дали заявеното подобрение остава видимо при повторение и върху отделна работа. Доказателството за развитие е устойчивата промяна в полезното поведение, а не само най-високата точка в един еволюционен дневник.



