JEV 中文指南 · 独立资料与开发者社区 官方信息请以 TypeSafe AI 为准
← 返回真实案例库

CASE FILE / 其他决策自动化

视觉版 Jev 来了 仿照着社区的思路,把候选结果映射成固定标签,prefill 完直接采样,限制输出 token,采用多模态的 qwen-3

视觉版 Jev 来了 仿照着社区的思路,把候选结果映射成固定标签,prefill 完直接采样,限制输出 token,采用多模态的 qwen-3.5-0.8B 4bit 量化部署在本地,16g m4 mbp 顺利运行 叠甲:这只是在 infer 层小小的复现一下 jev 的形式,肯定不如各种成熟推理框架效率高,也肯定不是 jev 的正在原理,但是作为 inference 的小入门仍旧是不错的 demo 如下 200ms 实现《三色货品分拣

作者:Haoran | 公众号:独立开发 @hr98w
● ● ●CASE FILEGUIDE
Haoran | 公众号:独立开发 · @hr98w

案例拆解

视觉版 Jev 来了 https://t.co/x0kzeE3hdx 仿照着社区的思路,把候选结果映射成固定标签,prefill 完直接采样,限制输出 token,采用多模态的 qwen-3.5-0.8B 4bit 量化部署在本地,16g m4 mbp 顺利运行 叠甲:这只是在 infer 层小小的复现一下 jev 的形式,肯定不如各种成熟推理框架效率高,也肯定不是 jev 的正在原理,但是作为 inference 的小入门仍旧是不错的 demo 如下 200ms 实现《三色货品分拣》

阅读 28,990喜欢 293转发 30

原帖内容

视觉版 Jev 来了 https://t.co/x0kzeE3hdx 仿照着社区的思路,把候选结果映射成固定标签,prefill 完直接采样,限制输出 token,采用多模态的 qwen-3.5-0.8B 4bit 量化部署在本地,16g m4 mbp 顺利运行 叠甲:这只是在 infer 层小小的复现一下 jev 的形式,肯定不如各种成熟推理框架效率高,也肯定不是 jev 的正在原理,但是作为 inference 的小入门仍旧是不错的 demo 如下 200ms 实现《三色货品分拣》

这个案例说明了什么?

  • 将 JEV 用作固定类型的快速决策层
  • 通过概率和阈值把输出接入业务流程
  • 点击原帖查看作者的完整演示与上下文

原帖中的外链