На 23 октомври 2026 г. AWS представи Infinity — ранна изследователска среда от общия с UC Berkeley проект Hydro, с лиценз Apache 2.0. При извикване на инструмент тя запазва разговора, спира агента и го възобновява при резултат. Числото „75 000 агента в 8 GB“ е оценка на паметта от тест със симулиран модел върху AMD EPYC, не доказателство за толкова едновременно изпълнявани езикови модели на Raspberry Pi.
Изчакването е отделен ресурсен проблем
AI задача може да бъде кратка като инструкция и продължителна като изпълнение. Представете си помощник, който чака приключването на компилация, а след това трябва да обобщи резултата. През времето на компилацията няма причина постоянно да се иска нов отговор от модела. Полезният въпрос е как да се запази достатъчно състояние, така че работата да продължи правилно при събитието.
Нашият редакционен прочит е, че подобна архитектура трябва да се оценява по целия жизнен цикъл. Спестеното изчакване не премахва цената на активното генериране, съхранението или доставянето на събитията. Малък отпечатък на неактивен разговор не определя колко едновременни заявки ще понесе реалният модел или неговият доставчик.
Пример за надеждно възобновяване
За пилот бихме използвали задача с един фонов тест и един последващ отчет. Първо агентът изпраща теста, после средата се рестартира, а накрая пристига резултатът. Успех би означавал правилният разговор да получи точно този резултат и отчетът да не представя старо изпълнение като ново. Това е предложен експеримент, който SIExpo не е провеждал.
Следващите случаи са по-интересни от щастливия път: повторно доставено събитие, закъснял резултат след отказ и два резултата за различни задачи. При действие с външен ефект системата трябва да различава възобновяване на размисъла от повторно изпълнение на самото действие. Иначе евтиното изчакване може да завърши с дублирана операция.
За оценката бихме записвали идентификатора на задачата, версията на запазеното състояние и момента на приемане на резултата. Отделно бихме проверили дали отменено потребителско намерение остава отменено след рестарт. Разговорът може да бъде технически възстановен, но вече да няма разрешение да продължи първоначалната операция.
Как да се чете обещанието за мащаб
Добро сравнение би измерило памет при изчакване, натоварване при пристигане на много събития и крайно време за завършване на задачата. Тези величини отговарят на различни въпроси. Ако всички събития пристигнат наведнъж, тесният участък може да се премести към модела, инструмента или хранилището, независимо колко евтино е било предходното изчакване.
Infinity е полезна отправна точка за екипи с продължителни работни процеси и прекъсвания. Ранният изследователски статус обаче изисква собствена оценка на възстановяването и правата. Реалната новина е моделът на изпълнение със запазено състояние; числото за паметта трябва да остане свързано с условията, при които е получено.
*Корица: концептуална AI илюстрация, не документална снимка.*
*Редакционна проверка: 2026-10-25T07:09:22.750908+00:00.*
