ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Jev 刷屏了:这个不聊天的 AI 模型,盯上了企业系统里那批高频小判断

Jev 刷屏了:这个不聊天的 AI 模型,盯上了企业系统里那批高频小判断 9 月中旬AI 圈刷屏的是一个奇怪的模型它不聊天、不写文章、不做总结问它问题它只回三样东西——选项、评分、是否每样附带一个概率。它叫 Jev名字来自一位十九世纪的经济学家9 月 15 日由旧金山公司 TypeSafe AI 开放早期访问。发布当天冲上技术社区千分级热度上线 24 小时近 13% 的 Vercel 付费团队用上了它Vercel 称这是其历史上被采纳最快的模型。一周内几家主流开发者平台相继集成国内券商出了专题研报。一个不聊天的模型凭什么刷成这样它戳中的是一笔旧账想想一个 AI 应用里最费钱的是什么。多数人以为是「聪明的规划」实际上是一堆细碎的判断这条消息是投诉还是咨询、该调哪个工具、这步操作有没有风险、工单派给谁、要不要重试。这些判断一天发生成千上万次。过去的做法是让大模型每次都写一段文字再从文字里解析出结论——等于雇了一个作家来做收发室的活。作家按字收费收发室的活儿又多又急账单就这么涨起来的。Jev 的思路是把这层判断剥离出来不生成文字直接返回结构化结果和概率。官方口径是快 20 到 200 倍、便宜 40 到 400 倍官方数字当上限参考。官方演示里有个直观例子给一批客服消息打标它用 2.3 秒、约 0.1 美分同样的活儿交给聊天大模型要 20 秒。业内给这类模型起了个名字快思考模型。贵的模型管慢思考轻的模型管快判断。这笔账企业系统里到处都是一张报销单提交进系统金额八千二走部门经理还是总监一条售后工单创建派二组还是三组定 P1 还是 P2一封客户邮件进来咨询、投诉还是商务合作分别进不同的处理池企业系统里到处都是这类判断选项封闭、可枚举调用频次高单次价值低。一天跑几千上万次每次都很小加起来是一块稳定的基础开销。原来的两种处理方式各有各的难受写死规则业务一变规则就得重写分支越叠越厚全交给大模型每次判断都等一轮生成账单按 token 累积格式漂一下流程就断。Jev 的爆火等于把这个共识摆上了台面这层需求值得一个专用模型。门槛与那条绕开门槛的路Jev 是闭源的托管服务走 API 调用。对企业落地来说有几道现实门槛判断请求和数据要出网按调用量付费按媒体报道该服务尚未向中国大陆地区开放。于是开源社区的反应很快。发布四天后一个叫 OpenJev 的开源复现项目冲上技术社区热榜随后一批同类项目接连出现在开源趋势榜上。复现的核心结论很有意思几 GB 的开源小模型在本地做封闭选项判断准确率能到八成出头与托管商用模型的差距在几个点上下而「直接读概率」与「逐字生成 JSON」两种方式相比前者的耗时只有后者的约五分之一。围绕这条路最近有了一条值得关注的落地验证把「读概率、不生成文本」的开源决策模型部署到服务端业务系统通过 HTTP 调用拿到各选项概率写回数据、驱动流程分支。整条链路部署在内网数据不出门判断不过夜、不排队一次计算出结果概率偏低时自动转人工。边界也要说清楚这条路只适合选项封闭、可枚举的判断开放式生成不在此列小模型准确率在四成到八成之间浮动关键节点必须留人工兜底。它省的是大部分常规判断的成本边界情况依然要人来接。这件事为什么值得搭系统的人关心高频小判断是企业应用里绕不开的基础开销。规则引擎越堆越厚是一种活法大模型 API 账单越来越长是另一种。现在多了第三条路比规则灵活比大模型便宜数据还留在自己内网——而且对国内团队来说这是眼下就能开工的那条。做这次验证的是葡萄城的技术团队——验证的接入点就在低代码平台活字格的服务端命令上。对用低代码平台搭系统的团队来说它意味着 AI 决策能力可以作为一个普通节点接进平台的 AI 工作流编排大模型管慢思考决策模型管快判断业务变了改的是编排和选项设计不用改代码。快思考模型的热点会过去「快慢分工」的架构会留下来。值得每个搭业务系统的人自己跑一遍。
返回列表