← 返回真实案例库
CASE FILE / 模型与 Agent 路由
Jev让我们的Slack代理速度提高了2倍️ 我们的代理可能会相当慢,因为它需要阅读技能并弄清楚要调用哪些工具
Jev让我们的Slack代理速度提高了2倍️ 我们的代理可能会相当慢,因为它需要阅读技能并弄清楚要调用哪些工具。 我们使用@typesafeai的新模型来加速这一过程,首先向它传递提示,并在将其交给代理之前对要使用的最佳技能、工具和参数进行分类
● ● ●CASE FILEGUIDE
John Yeo · @johnyeo_
案例拆解
Jev让我们的Slack代理速度提高了2倍️ 我们的代理可能会相当慢,因为它需要阅读技能并弄清楚要调用哪些工具。 我们使用@typesafeai的新模型来加速这一过程,首先向它传递提示,并在将其交给代理之前对要使用的最佳技能、工具和参数进行分类
阅读 4,919喜欢 60转发 3
原帖内容
Jev made our Slack agent 2x faster ⚡️ Our agent can be quite slow because it needs to read skills and figure out which tools to call. We used @typesafeai's new model to speed this up by first passing it the prompt and classifying the best skill, tool and params to use before handing it to the agent
这个案例说明了什么?
- 先用 JEV 决定走哪条模型或工具
- 高置信度自动路由,低置信度升级
- 这是最常见的生产接入方式