Google обяви на 19 ноември Tool Retrieval в preview за Gemini Interactions API. Имената и описанията на отложените инструменти остават видими, но схемите с параметри се зареждат при нужда. Целта е да се намали излишният входен контекст при големи библиотеки. Съобщението не установява универсален процент спестени токени или гарантирана точност при всеки набор от инструменти.

Документацията изисква v1beta и уточнява, че generateContent не поддържа тази възможност. Използват се tool_search и defer_loading за съответните функции. Това е конкретен API маршрут с preview условия, а не промяна, която автоматично обхваща всяка съществуваща Gemini интеграция.

Откриването не е разрешение

От инженерна гледна точка има отделни въпроси: кой инструмент е подходящ, какви аргументи приема и дали действието е разрешено. Отложеното зареждане засяга предоставянето на описание на параметрите. То не доказва, че конкретната поръчка, файл или получател е допустим за операцията. Тези граници трябва да останат в изпълняващото приложение.

Като собствен пример разглеждаме два инструмента с близки имена: преглед на заявка и окончателно изпращане. Описанията трябва ясно да различават четене от външен ефект. Ако агентът избере правилната схема, но използва грешен идентификатор, по-малкият контекст не е достатъчен за коректен резултат. Приемателната проверка трябва да засече и този тип грешка.

Как да се измери ползата

Предлагаме сравнение върху един и същ набор от реалистични демонстрационни задачи. Записват се входните токени, необходимото време, правилният избор и валидността на аргументите. Включете случай с рядко използван инструмент и случай с неясна заявка. Не избирайте само най-лесния пример след като резултатът вече е известен.

Следващата проверка е липсващ или преименуван инструмент. Системата трябва да даде проследим неуспех, вместо да изпълни сходна, но различна операция. Ако човек коригира избора, това време е част от оценката. Целта е надеждно изпълнение на конкретната задача, а не само по-малко числа в отчета за контекст.

Какво остава непотвърдено

Не сме изпълнявали такъв сравнителен тест. Производителят предоставя механизъм и мотивация за него; реалното поведение зависи от библиотеката, описанията и приложението. За екип, който обмисля внедряване, най-полезният първи резултат е малък проверим експеримент с непроменени правила за достъп. Preview може да бъде полезен, без да се представя като окончателно решение на всички проблеми при избора на инструменти.