Newsy AI

Gemini API z nową funkcją. Tool Retrieval obniży koszty i opóźnienia

Nowa funkcja pozwala na dynamiczne ładowanie narzędzi, co znacząco redukuje liczbę tokenów wejściowych i poprawia wydajność agentów AI.

Gemini API z nową funkcją. Tool Retrieval obniży koszty i opóźnienia

Google udostępniło w wersji zapoznawczej nową funkcję w swoim interfejsie programistycznym Gemini API. Rozwiązanie o nazwie Tool Retrieval ma na celu usprawnienie działania agentów AI korzystających z dużej liczby narzędzi poprzez redukcję kosztów i opóźnień w ich działaniu.

Rosnące koszty i opóźnienia: wyzwanie dla skalowalnych agentów AI

Współczesne systemy oparte na sztucznej inteligencji, tzw. agenty, coraz częściej komunikują się z zewnętrznymi programami i usługami w celu wykonania złożonych zadań. Mogą to być interfejsy do sprawdzania pogody, rezerwacji biletów czy przeszukiwania baz danych. Problem pojawia się, gdy agent musi mieć dostęp do dziesiątek, a nawet setek takich narzędzi jednocześnie.

W dotychczasowym modelu, przy każdym zapytaniu do modelu językowego, konieczne było wysłanie pełnej definicji technicznej (tzw. schematu parametrów) wszystkich dostępnych narzędzi. Taki proces prowadził do gwałtownego wzrostu liczby tokenów przesyłanych na wejściu, co bezpośrednio przekładało się na wyższe koszty korzystania z API. Dodatkowo, duża ilość danych do przetworzenia zwiększała opóźnienia (latency) i mogła obniżać precyzję modelu w wyborze odpowiedniego narzędzia z długiej listy.

Tool Retrieval: dynamiczne ładowanie narzędzi w praktyce

Nowa funkcja, Tool Retrieval, wprowadza mechanizm działania „na żądanie”. Zamiast ładować pełną bibliotekę narzędzi przy każdym wywołaniu, agent utrzymuje ją w gotowości i pobiera szczegółowe schematy tylko tych narzędzi, które są niezbędne do realizacji bieżącego zadania. Model najpierw analizuje polecenie użytkownika, a następnie dynamicznie sięga po definicje wyłącznie tych funkcji, które uzna za adekwatne.

Dzięki temu podejściu deweloperzy mogą budować bardziej rozbudowane i skomplikowane systemy bez obaw o gwałtowny wzrost kosztów i spadek wydajności. Według Google, Tool Retrieval pozwala zachować wysoką dokładność wyboru narzędzi nawet w miarę skalowania i rozbudowywania agenta o nowe funkcjonalności.

Jak skorzystać z nowej funkcji w Gemini API?

Funkcja Tool Retrieval jest obecnie dostępna w publicznej wersji zapoznawczej (preview) w ramach Interactions API. Aby z niej skorzystać, programiści muszą wprowadzić dwie zmiany w swoich zapytaniach do API. Należy dodać specjalne narzędzie typu tool\_search oraz ustawić parametr defer\_loading: true dla tych narzędzi z biblioteki, których ładowanie ma być opóźnione.

Rozwiązanie jest kompatybilne z modelami Gemini w wersji 3.6 i nowszymi. Techniczna implementacja funkcji została udostępniona publicznie w repozytorium projektu na platformie GitHub, w pliku tool.go, co potwierdza jej integrację z oficjalnym SDK Gemini.

Źródła

Introducing Tool Retrieval in the Gemini API, Google, 2026-11-19. https://blog.google/innovation-and-ai/technology/developers-tools/gemini-api-tool-retrieval/

gemini-api-cli/internal/sdk/models/interactions/tool.go at v0.4.4, GitHub. https://github.com/google-gemini/gemini-api-cli/blob/v0.4.4/internal/sdk/models/interactions/tool.go

Więcej newsów AI