V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
YUX
V2EX  ›  分享创造

一个纯纯 qwen3.5 本地 9B 模型自己写出的在线社区,给各位参考

  •  1
     
  •   YUX ·
    PRO
    ·
    YUX · 2 天前 · 3009 次点击
    • 标题的含义是 项目所有代码均由 qwen3.5 本地 9B 模型产生 同时需要人类(我)和其他模型进行必要指导
    • 2020 款 m1 macbook air 16G 内存
    • 本地部署参考,几乎是一样的 https://advanced-stack.com/fields-notes/qwen35-opencode-lm-studio-agentic-coding-on-m1.html
    • 我用的 ohmyopencode
    • 我做的工作: 描述我的想法,做一个任意用户名密码都能发言的论坛,相同用户名密码永远同一个身份,不用注册,随便瞎输入用户名密码直接匿名,前后端都用 rust ,技术栈 tokio,axum,sqlite,leptos,本地部署+cf tunnel, ai 内容审查,防滥用机制,页面设计风格。
    • 其他模型的工作: 输出指导性文档(详细的项目介绍,项目结构,roadmap ,模型分工),文档中不包含具体代码,文档确定后不会再被 qwen3.5 修改。
    • qwen3.5 的工作: 面向文档编程。自己审阅代码,调试代码。

    👉 https://offgrid.ing/

    37 条回复    2026-03-12 16:43:36 +08:00
    since2021
        1
    since2021  
       2 天前
    厉害~
    xiaosheng
        2
    xiaosheng  
       2 天前
    好奇具体用的哪一个 9B ,我见好多量化的
    xiaosheng
        3
    xiaosheng  
       2 天前
    @YUX 看到了,LM 社区的..
    AoEiuV020JP
        4
    AoEiuV020JP  
       2 天前
    登录失败, 第二次尝试就`too fast`,也想不起来第一次的报错了,
    YUX
        5
    YUX  
    OP
    PRO
       2 天前
    @AoEiuV020JP 被玩坏了 等一下 我得介入看看
    YUX
        6
    YUX  
    OP
    PRO
       2 天前
    @AoEiuV020JP 应该是 ip rate limit ,没有从 cf tunnel 拿真实 ip,所有人都是 cf 的 ip 导致的 现在 qwen 在修 哈哈哈哈
    YUX
        7
    YUX  
    OP
    PRO
       2 天前
    @AoEiuV020JP 修好了
    meetthebest
        8
    meetthebest  
       2 天前
    感觉输出好慢,让它写个推广页,写了好久;
    机子:M3 + 16GB
    YUX
        9
    YUX  
    OP
    PRO
       2 天前
    @meetthebest 确实慢的要死 就这个网页 千问 24 小时连轴转写了三天多
    meetthebest
        10
    meetthebest  
       2 天前
    啊这...看来只能玩玩了
    AzadCypress
        11
    AzadCypress  
       2 天前
    很惊讶 9B 居然也能输出这么完整的项目了
    azhangbing
        12
    azhangbing  
       2 天前 via iPhone
    m4 丐版 9b 4bit 只能跑到 20 token 1k 上下文 4k 只有 14
    YUX
        13
    YUX  
    OP
    PRO
       1 天前
    @meetthebest 是的,或者做一些简单的日常工作接个🦞啥的 正经写代码还是得用 opus
    YUX
        14
    YUX  
    OP
    PRO
       1 天前
    @AzadCypress 还是要取决于其他模型的的指导文档的
    zsc8917zsc
        15
    zsc8917zsc  
       1 天前
    用其他模型指导的话,为何不用其他模型直接写呢?
    ZxykM
        16
    ZxykM  
       1 天前
    歪个楼,现在 cf tunnel 的速度怎么样?
    zhaoolee
        17
    zhaoolee  
       1 天前
    圆角太大了,反而缺少了精致感,页面布局让信息密度也变低了
    nijux
        18
    nijux  
       1 天前
    GitWatt
        19
    GitWatt  
       1 天前
    惊讶!效果有点超出预期了
    myderr
        20
    myderr  
       1 天前
    @YUX #9 用的什么 agent 呢,我想让他连轴转都不行
    YUX
        21
    YUX  
    OP
    PRO
       1 天前
    @zsc8917zsc 为了测试 qwen3.5 9b 的 coding 能力 opus4.6 直接写显然是最高效的选择
    YUX
        22
    YUX  
    OP
    PRO
       1 天前
    @myderr ohmyopencode /ulw-loop
    YUX
        23
    YUX  
    OP
    PRO
       1 天前
    @ZxykM 没测 感觉还行吧 能用
    YUX
        24
    YUX  
    OP
    PRO
       1 天前
    @nijux 一会试试
    GodIsJasonBourne
        25
    GodIsJasonBourne  
       1 天前
    site dead: 无法访问此网站
    offgrid.ing 意外终止了连接。
    GodIsJasonBourne
        26
    GodIsJasonBourne  
       1 天前
    back to life!
    GodIsJasonBourne
        27
    GodIsJasonBourne  
       1 天前
    @YUX 2 小时修改一个 bug ,嗯,符合 AI 的工作效率预期,哈哈哈
    googlexyor
        28
    googlexyor  
       1 天前
    配色有点像 claude 黄,不错
    GodIsJasonBourne
        29
    GodIsJasonBourne  
       1 天前
    yourname#b935e85c 给你提了 2 个你可以不接受的建议
    @YUX
    GodIsJasonBourne
        30
    GodIsJasonBourne  
       1 天前
    2020 款 m1 macbook air 16G 内存, 这个模型的资源占用是怎样的?恰好我也是同款 air
    lichdkimba
        31
    lichdkimba  
       1 天前
    9B 模型也能写靠谱代码了?我记得以前部署了写文字都很垃圾啊
    YUX
        32
    YUX  
    OP
    PRO
       1 天前
    @lichdkimba 非常考验提示词
    YUX
        33
    YUX  
    OP
    PRO
       1 天前
    @googlexyor 特意强调不要那种 ai 蓝紫色
    shadowyw
        34
    shadowyw  
       1 天前   ❤️ 1
    建议关注这个项目 https://github.com/jundot/omlx, 能充分发挥 mlx 系列模型的缓存机制, 加速本地 llm 编码
    kongkx
        35
    kongkx  
       1 天前 via iPhone
    很好奇文档长什么样
    jukanntenn
        36
    jukanntenn  
       1 天前
    @shadowyw 好像 op 推过这个项目,他现在应该部署的就是这个。
    4seasons
        37
    4seasons  
       13 小时 12 分钟前
    好奇工程文档是怎么写的
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   972 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 21:56 · PVG 05:56 · LAX 14:56 · JFK 17:56
    ♥ Do have faith in what you're doing.