Jev ：Agent 又慢又贵的根因，是决策环节的冗余调用？

Agent 每走一步都在做判断这条消息紧急吗、这个工单转给哪个部门、这条命令该直接执行还是先问人。这些题的答案就是个结构化结论——是/否、A 还是 B——模型根本不需要写一段话来推理。 Agent每做一次判断就得把整段上下文喂给大模型、等它生成一整段文本进行一次完整的 LLM 调用。一个 agent 跑几十步就有几十次这种冗余。Jev 和 JevHarness 要做的就是给这层判断单独造一个便宜的引擎。 一、Jev 是什么一个只做判断、不说话的模型 Jev 是 TypeSafe AI 九月发布的模型官方叫System One 模型。名字借自 Kahneman 的「快慢系统」聊天大模型是慢思考系统二边想边逐字生成Jev 是快思考系统一不生成文本只给结构化判断。它怎么用——你给它一个state当前上下文和一组questions关于这个 state、你事先定义好的问题它返回类型化答案加概率。 一次请求里三种问题可以混着问、并行评估加问题几乎不增加延迟。三种问题类型Noul这句话为真的概率0~1。例这条消息紧急吗 → 0.999。Choice从你给的选项里挑一个返回每个选项概率加置信度最多 255 个选项。例工单转哪个部门 → {账单 0.92, 技术 0.05, 销售 0.03}。Score按你定的有序等级打分返回连续分数。例紧急程度低/中/高 → 0.78 偏「高」。关键设计输出结构是你事先定义的。statequestions进去模型只能在你列的 A/B/C 里选。它不可能凭空编个 D也不可能突然吐一段小作文。为什么快又便宜非自回归传统 LLM 一个 token 一个 token 往外蹦每步依赖前一步Jev 一次前向计算并行输出所有决策的概率分布端到端 70~500ms。RLCD 训练用「面向校准决策的强化学习」替代 RLHF优化目标不是「人类更喜欢」而是「校准过的概率」——它说 70% 把握真实准确率就约 70%。这点是自动化工作流的关键因为你敢按置信度分流高置信自动、低置信人工。定价输入 $0.042 / 百万 token输出免费输出是概率分布不值得计费。官方称同类任务比前沿 LLM 快 40~200 倍、便宜约两个数量级。二、Jev 怎么接进你的 Agent 接 Jev 不用重做你的 Agent只在那些「规则写不死、又不想为它再调一次 LLM」的判断点上用官方 SDK typesafe_sdk把当前上下文塞进state把要判断的题列进questions拿回带概率的答案直接进if。code-snippet__jsfrom typesafe_sdk import Choice, Noul, Score, TypeSafeClientclient TypeSafeClient() # 读 TYPESAFE_API_KEY默认 jev-latestticket “我连 Stripe 三天了还失败急”resp client.system_one(stateticket,questions{“is_urgent”: Noul(instructions“这条消息是否表达了紧急或时效压力”),“department”: Choice(instructions“该转给哪个团队”,criteria{“billing”: “支付/发票/退款”,“technical”: “Bug/故障/对接”,“sales”: “报价/升级/新开”},),“frustration”: Score(instructions“客户有多生气”,criteria[“平静陈述”, “不满但克制”, “暴怒”],),},)总结 Agent 运行时真正烧钱的大头是决策环节的冗余调用。Jev 把决策层从执行层剥开便宜的做便宜的判断贵的只在真要深想时出场。这层以前被大厂闭源藏起来现在成了谁都能装的开源件。未来 Agent 架构会分层——规则、决策Jev、推理LLM、执行、复核各司其职而不是一个万能 LLM 硬扛。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】