JEV 中文指南 · 独立资料与开发者社区 官方信息请以 TypeSafe AI 为准
← 返回真实案例库

CASE FILE / 模型与 Agent 路由

Jev让我们的Slack代理速度提高了2倍️ 我们的代理可能会相当慢,因为它需要阅读技能并弄清楚要调用哪些工具

Jev让我们的Slack代理速度提高了2倍️ 我们的代理可能会相当慢,因为它需要阅读技能并弄清楚要调用哪些工具。 我们使用@typesafeai的新模型来加速这一过程,首先向它传递提示,并在将其交给代理之前对要使用的最佳技能、工具和参数进行分类

作者:John Yeo @johnyeo_
● ● ●CASE FILEGUIDE
John Yeo · @johnyeo_

案例拆解

Jev让我们的Slack代理速度提高了2倍️ 我们的代理可能会相当慢,因为它需要阅读技能并弄清楚要调用哪些工具。 我们使用@typesafeai的新模型来加速这一过程,首先向它传递提示,并在将其交给代理之前对要使用的最佳技能、工具和参数进行分类

阅读 4,919喜欢 60转发 3

原帖内容

Jev made our Slack agent 2x faster ⚡️ Our agent can be quite slow because it needs to read skills and figure out which tools to call. We used @typesafeai's new model to speed this up by first passing it the prompt and classifying the best skill, tool and params to use before handing it to the agent

这个案例说明了什么?

  • 先用 JEV 决定走哪条模型或工具
  • 高置信度自动路由,低置信度升级
  • 这是最常见的生产接入方式