Внедрение Tool Retrieval в Gemini API: оптимизация работы агентов с большими библиотеками инструментов
Google добавила функцию Tool Retrieval в предварительной версии Gemini Interactions API. Она позволяет загружать схемы параметров инструментов по запросу, экономя токены и снижая задержку.

Главное за 30 секунд
Функция Tool Retrieval позволяет ИИ-агентам загружать детальные параметры инструментов только в момент их использования, что решает проблему перегрузки контекста при работе с большими библиотеками интеграций.
- Функция доступна в предварительной версии (preview) в Interactions API.
- Работает с моделями Gemini 3.6 и более новыми, включая все модели Gemini 4.
- Поддерживает интеграцию с удаленными серверами MCP.
- Не требует отдельной платы, тарификация идет по стандартным ставкам за токены.
Неочевидное: Удаление избыточных схем параметров из первоначального промпта не только экономит токены, но и сохраняет стабильность кэширования префиксов, что дополнительно оптимизирует работу многошаговых ИИ-агентов.
Суть
Google запустила функцию Tool Retrieval (поиск инструментов) в предварительной версии (preview) для Gemini Interactions API. Это нововведение позволяет искусственным интеллектам-агентам получать доступ к сотням инструментов, расходуя при этом значительно меньше токенов. Функция разработана для снижения затрат и сохранения высокой точности выбора инструментов при масштабировании агентов.
Контекст
Когда ИИ-агент подключается к десяткам или даже сотням программных инструментов, передача полной схемы параметров каждого из них при каждом запросе быстро становится проблемой. Такой подход раздувает количество входных токенов, увеличивает задержку (latency) и снижает точность выбора нужного инструмента по мере роста списка кандидатов. Разработчикам приходилось искать баланс между функциональностью агента и стоимостью каждого вызова API.

Gemini spark on a space background
Детали
Tool Retrieval позволяет агенту держать полную библиотеку инструментов в режиме ожидания и загружать схемы параметров только тогда, когда они нужны для текущей задачи.
Для включения функции разработчику необходимо добавить инструмент tool_search в запрос и установить флаг defer_loading: true для тех инструментов, которые нужно отложить. Модель по-прежнему видит имя и описание каждого отложенного инструмента, понимая, что ей доступно, но сами схемы параметров остаются вне контекста. Когда модели нужен инструмент, она запрашивает его по имени, API загружает полную схему, и модель вызывает функцию — все это происходит внутри одного запроса.
Функция работает с моделями Gemini 3.6 и новее, включая все модели Gemini 4. Она также поддерживает работу с удаленными серверами MCP (Model Context Protocol). Если установить defer_loading: true для инструмента mcp_server, все инструменты этого сервера будут загружаться по запросу.
Для тех, кто поддерживает собственный реестр инструментов, предусмотрен клиентский поиск. Указав "execution": "client", приложение само выполняет поиск, что добавляет один цикл запрос-ответ (round trip), но позволяет не объявлять инструменты заранее и добавлять их прямо в процессе разговора.

Изображение из источника
Анализ
С финансовой точки зрения Tool Retrieval не требует отдельной оплаты. Входные и выходные токены тарифицируются по стандартным ставкам используемой модели. Включение tool_search добавляет небольшой фиксированный блок входных токенов, а каждая загруженная схема тарифицируется как ввод для остальной части разговора. Экономия возникает, когда количество незагруженных схем превышает количество загруженных, что является обычной ситуацией для больших библиотек.
Кроме того, Tool Retrieval отлично сочетается с кэшированием префиксов (prefix caching). Отложенные схемы не попадают в начало промпта, а загружаемые схемы добавляются позже в ходе разговора, благодаря чему кэшированный префикс остается неизменным от хода к ходу.
Перспектива
По мере того как агенты становятся сложнее, им требуется доступ ко все большему числу интеграций. Динамическая загрузка метаданных инструментов может стать стандартным архитектурным паттерном при разработке LLM-приложений. Это позволяет создавать универсальных агентов с обширными возможностями без ущерба для скорости реакции и бюджета на токены.








