Google объявила о запуске Tool Retrieval в Gemini API. Новая функция, доступная в preview в Interactions API, позволяет агентам работать с большими библиотеками инструментов, загружая схемы параметров только по мере необходимости. Об этом сообщается в официальном блоге Google AI. По словам компании, это снижает количество входных токенов и задержку, а также помогает сохранять точность выбора инструментов при росте числа кандидатов.
Как работает Tool Retrieval
Чтобы включить функцию, нужно добавить в запрос инструмент tool_search и установить флаг defer_loading: true для тех инструментов, которые следует отложить. Модель по-прежнему видит названия и описания всех отложенных инструментов, но их схемы параметров не попадают в контекст. Когда модель решает использовать инструмент, она запрашивает его по имени, API загружает полную схему, и модель вызывает функцию — всё в рамках одного запроса.
В официальном примере показано, как с помощью Tool Retrieval можно организовать возврат средств по заказу. В запросе объявляется инструмент issue_refund с отложенной загрузкой, а также более 50 других отложенных функций. Модель выполняет поиск нужного инструмента, API загружает его схему, и модель формирует вызов функции. Все три шага отражаются в interaction.steps, что упрощает отладку.
Преимущества и совместимость
Google отмечает несколько особенностей Tool Retrieval:
- Не требуется создавать или размещать индекс — поиск выполняется на сервере Gemini.
- Функция совместима с префиксным кешированием: отложенные схемы не попадают в начало промпта, поэтому кешированный префикс остаётся неизменным от хода к ходу.
- Поддерживается работа с удалёнными MCP-серверами в Gemini API: если установить defer_loading: true для инструмента mcp_server, все инструменты этого сервера будут загружаться по требованию.
Tool Retrieval работает с моделями Gemini 3.6 и более поздними, включая все модели Gemini 4, в Interactions API.
Клиентский поиск инструментов
Разработчики, которые поддерживают собственный реестр инструментов, индекс эмбеддингов или фильтрацию разрешений по пользователям, могут объявить tool_search с параметром "execution": "client" и определить свои параметры поиска. В этом случае приложение само выполняет поиск, что добавляет один дополнительный сетевой запрос на каждый поиск. Инструменты не нужно объявлять заранее, поэтому можно подключать новые инструменты в середине разговора, например когда пользователь добавляет интеграцию.
Цены и поддерживаемые модели
За Tool Retrieval не взимается отдельная плата. Входные и выходные токены тарифицируются по стандартным ставкам для выбранной модели. Включение tool_search добавляет небольшой фиксированный блок входных токенов, а каждая загруженная схема оплачивается как входные токены на протяжении всего дальнейшего разговора — так же, как если бы инструмент был объявлен сразу. Экономия достигается, когда схемы, которые не загружаются, перевешивают загруженные, что обычно имеет место для больших библиотек. Google рекомендует измерять эффект на собственном трафике.
Как начать
Google предлагает ознакомиться с документацией, где приведено полное руководство по настройке с примерами, сравнить модели Gemini для выбора подходящей и присоединиться к обсуждению в Discord, чтобы поделиться отзывом с командой.
«Tool Retrieval позволяет вашему агенту держать полную библиотеку инструментов наготове и загружать схемы параметров только тогда, когда они нужны для текущей задачи», — говорится в сообщении Google.
Что это значит
Tool Retrieval решает практическую проблему масштабирования агентов: при подключении десятков или сотен инструментов отправка всех схем в каждом запросе увеличивает расход токенов и задержку, а также снижает точность выбора. Новая функция даёт разработчикам способ управлять этим, сохраняя доступ к широкому набору инструментов. Поскольку функция находится в preview, её влияние на реальные приложения ещё предстоит оценить, но сам подход — загрузка по требованию — выглядит логичным шагом для агентных систем.

Комментарии · 0
Войдите, чтобы участвовать в обсуждении.