杰夫实际上疯了

案例拆解

杰夫实际上疯了。 我们对它进行了基准测试，结果彻底改变了我们的游戏： > 500名实时代理 >并行运行 >在3D环境中 初步结果很疯狂： 平均延迟> 500 ms > 35个API调用/秒 >所有这些都是天真的实现 我们进行了0次优化！ 瓶颈不再是智能延迟。 这是第一个System 1 LLM。疯狂的时代。

原帖内容

Jev is actually insane. We benchmarked it, and the results completely change the game for us: > 500 real-time agents > running in parallel > in a 3D environment The preliminary results are crazy: > 500ms average latency > 35 API calls/s > all with a naive implementation We did 0 optimizations! The bottleneck is not Intelligence latency anymore. It's the first System 1 LLM. Crazy times.

这个案例说明了什么？

• 游戏状态很适合做成固定选项的决策
• JEV 负责选择，策略或 LLM 负责生成
• 原帖通常有可玩的演示视频