跳到正文
Google Developers Blog·· 19 天前精选AI 评分75

Google 解析用低成本分类器在 Gemini 模型与 thinking level 之间路由任务

Cost per task: Using cheap classifiers to route across Gemini models and thinking levels

AI 导读

Google 通过 50 个自动评分的编码智能体任务,比较 Jev 分类器、启发式规则与 Gemini 不同配置的任务路由效果。Jev 在 34 个未见任务上与人工难度标注 34/34 一致,Jev 路由方案让简单任务使用 Flash-Lite、复杂任务升级到低 thinking 的 Flash,50 题全部答对,并可降低相较于全程低 thinking 的成本和响应时间。

推荐理由

文章用 50 个编码智能体任务比较启发式路由、Jev 与不同 Gemini 配置,给出按任务难度设置 thinking level 和维护上下文缓存的实践依据。

来源:Google Developers Blog · developers.googleblog.com