Livid
279.77D
568.01D
V2EX  ›  Planet

如果你想测试 Planet 里集成 Gemma4 的最新效果

  •  
  •   Livid ·
    PRO
    · Apr 7 · 1479 views
    This topic created in 46 days ago, the information mentioned may be changed or developed.

    首先通过 brew 安装 ollama ,一个轻量好用的 AI 服务器,然后根据你本地的可用内存,pull 一个 gemma4 的版本。

    brew install ollama
    ollama pull gemma4:26b-a4b-it-q8_0
    

    然后安装 Planet 的 insider-20260406-3 版本:

    https://github.com/Planetable/Planet/releases/tag/insider-20260406-3

    这个版本里已经可以自动检测 localhost 上运行的 Ollama ,及更好地支持 Gemma4 的工具调用 tool use:

    在设置中配置好之后,就可以使用 Planet 里新的 AI 对话功能了。

    比如我通过 Planet fo 了 V2EX 的 Claude Code 节点,我可以这样提问:

    「 Claude Code 节点大家最近在讨论什么」

    能用 Planet + Gemme4 tool use 工具做的事情还有很多,如果你在测试过程中发现什么有趣或者有问题的,欢迎反馈。这是一套完全本地的方案,甚至用的时候可以没有联网。

    7 replies    2026-04-14 17:34:47 +08:00
    JoeJoeJoe
        1
    JoeJoeJoe  
    PRO
       Apr 7
    这个功能太强了👍🏻

    ps: 就只有一个 session 的情况下, 我尝试删除, 会出现无响应的情况,
    Livid
        2
    Livid  
    MOD
    OP
    PRO
       Apr 7
    @JoeJoeJoe 嗯,如果左侧只有一个 session ,目前应该是删不掉。

    我来修复这里。
    terryso
        3
    terryso  
       Apr 8   ❤️ 1
    brew pull gemma4:26b-a4b-it-q8_0 这个命令应该是 ollama pull gemma4:26b-a4b-it-q8_0 吧
    Livid
        4
    Livid  
    MOD
    OP
    PRO
       Apr 9 via iPhone
    @terryso 是的,敲错了。
    terryso
        5
    terryso  
       Apr 9
    下了 gemma4, 一用马上爆炸, 看来要换电脑了
    Livid
        6
    Livid  
    MOD
    OP
    PRO
       Apr 9
    @terryso 如果专门给它上一个 DGX Spark 应该不错。这样就可以用 NVIDIA 专门优化过的版本。
    diudiuu
        7
    diudiuu  
       Apr 14
    @Livid
    这机子带宽不行,32B-16bf 理论值 4token/s,实际差不多到 2.5token/s

    gemma4:26b-a4b-it-q8_0 25token/s
    gemma4:26b-a4b-it-q6_0 32token/s
    gemma4:26b-a4b-it-q4_0 35token/s

    采用的 llama.cpp 方式部署的
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   900 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 56ms · UTC 19:59 · PVG 03:59 · LAX 12:59 · JFK 15:59
    ♥ Do have faith in what you're doing.