SilenceLL
V2EX  ›  Jev

推上吹的火热的 jev,是不是还不如小参数的开源模型,感觉钱都去做营销了

  •  
  •   SilenceLL · Sep 18 · 6563 views
    This topic created in 45 days ago, the information mentioned may be changed or developed.

    跟 AI 一起读了下,暂时得出来的结论如下:

    它可能本质上是把“高质量小模型 + 分类/排序 + constrained output + calibration”包装成了一个非常漂亮的 Decision Model 产品。

    Supplement 1  ·  Sep 21

    吹的人越来越多,还是试一下,感觉一般吧。可能是我测试的地方不对,自定义组件,虚拟滚动试了很久他都搞不定

    31 replies  •  2026-09-20 00:15:49 +08:00
    maocat
    maocat
    Sep 18
    1
    看了眼,或者可以叫意图识别小模型
    AdminNB
    AdminNB
    Sep 18
    2
    大概看了下,只做选择和判断,看起来比较适合用来做一些审核类的场景,跟现有模型比,主要还是速度快吧
    SilenceLL
    SilenceLL
    OP
    Sep 18
    3
    @AdminNB 智能判断节点?做审核类还是有点不够吧
    seakingii
    seakingii
    Sep 18
    4
    小模型再快也没它这个快,目前这是 100 ms 级别的
    seakingii
    seakingii
    Sep 18
    5
    现在有一个人,根据这个原理,特化 qwen 2 这个模型,达到 JEV 的效果. 你可以找一下.

    按我的了解是,一个革命性的思路,但没有什么技术门槛
    dassh
    dassh
    Sep 18
    6
    看了下,相当于文字版本的 yolo world ,感觉确实营销过头了,你一个小模型,当然比 gpt 那些快

    有人用 qwen 0.6b 模拟了一个 https://github.com/TheoLeeCJ/openjev
    muyi
    muyi
    Sep 18
    7
    早上看到了这个开源复刻 https://github.com/TianyuCodings/NanoJev
    sillydaddy
    sillydaddy
    Sep 18 via Android
    8
    快思考的直觉脑~这个思路没问题吧。
    mkt
    mkt
    Sep 18❤️1
    9
    用户:这怎么算的?
    jev:你就说快不快吧
    zhmouV2
    zhmouV2
    Sep 18
    10
    低成本的决策模型,但是结果对不对就不知道了
    cobiao
    cobiao
    Sep 18
    11
    "System One""Typesafe""noul""RLCD"有点过度包装了,明明就是用于垂直领域的小模型. 但是,针对垂直领域的便宜又快速的小模型,这个方向的确挺看好的,国内估计很快就会有同类产品跟上.前阵子好像国内面壁和讯飞都出了很小的通用 agent,好像是 4b,没什么水花,还是国外会炒作呀.

    上个月国外出了个 45M 的 mini 模型 needle2,专门用于智能家居生成结构化输出的,直接可以在浏览器里运行,速度很快,可以实时交互,我还做了一个简单 demo: https://github.com/whitefoxx/line-room 可以玩下. 前几天,needle3 也出来了,更小了,只有 37M,官网可以玩下: https://cactuscompute.com/needle
    prosgtsr
    prosgtsr
    Sep 18
    12
    反正我不信
    ZZITE
    ZZITE
    Sep 18
    13
    适合在代码程序中结合使用,能解决某些只想要借助 AI 来根据复杂规则输出判断,并输出结构化结果,交给程序继续执行的场景。
    SilenceLL
    SilenceLL
    OP
    Sep 18
    14
    @ZZITE 会不会还不如直接跑小参数模型
    zhanying
    zhanying
    Sep 18
    15
    @dassh openjev 的 meme 图太难绷了
    luzemin
    luzemin
    Sep 18
    16
    主要是:准确、快速、便宜

    三者任意一项不满足,就失去价值了
    seakingii
    seakingii
    Sep 18
    17
    @SilenceLL 不可能.就算是当前的小参数模型也不会在这个领域比它快. 目前的 LLM 用来决策,它是有这个功能,但是太重了.慢很多
    andyskaura
    18
    @mkt 想到了以前的 fastjson
    seakingii
    seakingii
    Sep 18
    19
    用小模型来模拟 JEV,可以接近效果,但目前有 效率和准确度的 难题
    seakingii
    seakingii
    Sep 18
    20
    不过这个新的架构的难度应该不高,至少比 DS 搞出 COT 的那个简单多. 开源代替应该很快可用
    SilencerL
    SilencerL
    Sep 18❤️1
    21
    @SilenceLL #14

    我在本地测过了其他人提到的 OpenJev ,明显还是打不过 Jev 这种专用的 classification 模型
    theohateonion
    22
    加了后训练的数据集,模型本身肯定比裸开源模型要好的。即使基座是一个很小参数的开源模型,只要业务上有价值,我感觉很多公司都会跟进然后训练自己的模型然后进一步提升效率。

    如果每一个结果真的到了毫秒级别的响应了,那就是另一个 level 的应用了。如果考虑准确度不敢接入业务系统的话,在内部工具里面用用肯定没问题的。
    godymho
    godymho
    Sep 18
    24
    这个 jev 好像只支持英文
    winglight2016
    25
    感觉是两边不靠:如果我要快速,ifelse 不好吗,如果要准确,AI agent 不是更准?

    需要基于业务知识快速决策,只需要大模型生成一套 ifelse 即可。因为这种决策明显不是给人类使用的,机器只需要知道上一步来源和下一步的可选项,这个无非是规则映射。
    zeredy
    zeredy
    Sep 18
    26
    完全不懂,让 deepseek v4.1 手搓了一个🫥
    https://github.com/zeredy879/minojev
    JZen
    JZen
    Sep 18
    27
    对于实时性强的场景,感觉还是不够快,而且还不支持多模态。如果能做到 20ms 以下的级别,并且支持图片/音频输入,前景非常大。
    cvooc
    cvooc
    Sep 18
    28
    量化交易决策?
    Cambra1n
    Cambra1n
    Sep 19
    29
    什么时候能本地部署才有意义,JEV 的大量场景都是不联网需求
    txican
    txican
    Sep 19
    30
    @winglight2016

    你能 if else 什么? 是特定的字符串? 还是 用 自然语言描述的字符串?

    if ("脏话 1", "脏话 2", "脏话 3", "脏话 4", ...) then 转人工

    if (jev 判断"客人说的是脏话") then 转人工

    以上还只是"脏话"一个域, 实际上, 在"脏话"之上, 还有"客人情绪急躁"这个域, 你用 if else 特定的字符串? 还是用 jev 判断 自然语言描述的字符串?
    tomchen
    tomchen
    Sep 20 via Android
    31
    人家是 openai 辞出来的,甚至还算是 chatgpt 的“共同创始人”。你没看见 A 社前段时间辞了个说 AI 可能毁灭人类的,一周以来各大国际媒体都首页高强度讨论 ai 毁灭人类的问题
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1553 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 59ms · UTC 23:14 · PVG 07:14 · LAX 15:14 · JFK 18:14
    ♥ Do have faith in what you're doing.