RICHY 解讀 · AI 科技

Gemini 新預覽功能:工具多,Token 可更省?

Google 公布Gemini API的Tool Retrieval預覽功能,稱可讓智能體使用大量工具,同時減少Token用量。

深入解讀 ↓
Introducing Tool Retrieval in the Gemini API
圖片來源

Google AI · 官方發布 · 原文配圖

一眼捉重點

2 個重點,睇完就明。

  1. 01

    這是預覽功能,並非所有設定下的成本保證。

  2. 02

    相關效益屬Google官方說法,本摘要沒有獨立測試數據。

RICHY EXPLAINED · 深入解讀

01由一次過載入,改成按需要取用

Google 宣布在 Gemini Interactions API 預覽 Tool Retrieval。當智能體連接大量工具時,毋須每次都把全部工具的參數結構塞進提示詞;模型先看名稱及描述,真正需要某個工具時,才載入完整結構。這是工具資料的載入方式改變,不是工具權限自動放寬。

02開發者點樣使用?

官方介紹的做法是加入 tool_search,並為延後載入的工具設定 defer_loading。伺服器可在同一次 API 請求內完成搜尋、載入及產生函數呼叫;真正執行工具仍由應用程式處理。功能亦支援遠端 MCP 伺服器,而由客戶端自行搜尋工具的模式則會增加一次往返。

03慳 Token 有條件

Google 表示功能沒有獨立收費,但仍按模型的輸入、輸出 Token 計費,搜尋工具本身亦增加少量固定輸入。只有未載入結構所省下的 Token,足以抵銷額外開銷時,才有淨節省。官方列明支援 Gemini 3.6 及以後的相關模型;是否較快、較省,仍應以自己的工具數量及流量實測。

解讀更新:23/11 00:09 HKT

消息有出處

本篇按 Google AI · 官方發布 英文公開資料整理摘要及深入解讀。中文為 Richy 整理,並非來源官方譯文。來源報道中的說法不代表已由 Richy 獨立核實。

查看來源標題及原文

Introducing Tool Retrieval in the Gemini API

Google AI · 官方發布 · 閱讀來源 ↗

下一篇,接住睇。

所有快訊 →

想睇啲咩?