oldlamp

V2EX member #198842, joined on 2016-10-28 18:58:13 +08:00

Today's activity rank 11379

oldlamp 提问技术话题好玩工作信息交易信息城市相关

Per oldlamp's settings, the topics list is hidden

Deals info, including closed deals, is not hidden

oldlamp's recent replies

1 day ago

Replied to a topic by cjkcjkcjk › Local LLM › 本地机器能跑 DeepSeek v4.1flash 或者 Qwen3.8 得多少钱？

@wises

带佬真棒，我也是类似的配置，您这个很有参考意义，比很多盲目说「无意义」的真无意义回复强太多了。

1 day ago

Replied to a topic by cjkcjkcjk › Local LLM › 本地机器能跑 DeepSeek v4.1flash 或者 Qwen3.8 得多少钱？

https://mp.weixin.qq.com/s/L2LcEMOrHCl1qFpWZob08Q

用不同量化规模，可能就配置不一样，如果有的人把量化过度污名化，恐怕也有点儿过分

参考网上的配置，我测试过 5060ti 16G +64G （ 32G*2 ），也能达到 50tokens/s 以上，而且用的是 IQ3S 的，感觉也不算多笨。

17 days ago

Replied to a topic by zktz › Local LLM › 有没有人装过 Strata + Qwen3.8-Flash-Next 125b？我遇到的问题是在 workbuddy 里一直超时。

有可能是量化的问题？

Sep 25

Replied to a topic by zzutmebwd › Local LLM › pro6000 部署 Qwen 3.8 flash next nvfp4

@coefu

我现在换 halogen-qwen3.8-flash-next ，长链工作还对付，能有 30-40tokens/s 的 decode ，上下文只能有 262144 ，反正还对付了。

Sep 25

Replied to a topic by oldlamp › 全球工单系统 › WorkBuddy 一个账号登录了三台 PC，但是移动端的应用上只能显示其中两个，大家有遇到么？

@tencentcloud

感谢感谢，话说界面如果可以进一步简化就好了，找入口好难啊。

另外请教一下，以后如果不续费，用本地模型，还需要消耗积分么？还能进行移动端的设备访问和管理么？

Sep 24

Replied to a topic by yexiaoqi › 问与答 › M5 64G 的 Mac mini 可以买来跑本地模型吗？

如果是 27b 的稠密模型，速度还不如 7900xtx ，同样预算下如果有两个 R9700 也是不错的选择。