RICHY 解讀 · AI 科技
Gemini 新預覽功能:工具多,Token 可更省?
Google 公布Gemini API的Tool Retrieval預覽功能,稱可讓智能體使用大量工具,同時減少Token用量。
深入解讀 ↓
圖片來源
Google AI · 官方發布 · 原文配圖
2 個重點,睇完就明。
- 01
這是預覽功能,並非所有設定下的成本保證。
- 02
相關效益屬Google官方說法,本摘要沒有獨立測試數據。
01由一次過載入,改成按需要取用
Google 宣布在 Gemini Interactions API 預覽 Tool Retrieval。當智能體連接大量工具時,毋須每次都把全部工具的參數結構塞進提示詞;模型先看名稱及描述,真正需要某個工具時,才載入完整結構。這是工具資料的載入方式改變,不是工具權限自動放寬。
02開發者點樣使用?
官方介紹的做法是加入 tool_search,並為延後載入的工具設定 defer_loading。伺服器可在同一次 API 請求內完成搜尋、載入及產生函數呼叫;真正執行工具仍由應用程式處理。功能亦支援遠端 MCP 伺服器,而由客戶端自行搜尋工具的模式則會增加一次往返。
03慳 Token 有條件
Google 表示功能沒有獨立收費,但仍按模型的輸入、輸出 Token 計費,搜尋工具本身亦增加少量固定輸入。只有未載入結構所省下的 Token,足以抵銷額外開銷時,才有淨節省。官方列明支援 Gemini 3.6 及以後的相關模型;是否較快、較省,仍應以自己的工具數量及流量實測。
解讀更新:23/11 00:09 HKT
消息有出處
本篇按 Google AI · 官方發布 英文公開資料整理摘要及深入解讀。中文為 Richy 整理,並非來源官方譯文。來源報道中的說法不代表已由 Richy 獨立核實。


