 |
找国产 GPU 算力卡渠道，沐曦，平头哥，海光 captainm • 18 mins ago • Lastly replied by SnowyParadise | 5 |
 |
腾讯开源的 DSpine 推测解码挺有意思，但什么时候能在 Mac 上支持 Qwen3.8-27B？ NouveauNom • 9h 19m ago • Lastly replied by ellipsecheung | 1 |
 |
小型公司私有化部署大模型（deepseek-v4-flash）的话，有推荐的配置吗? boringwheat • 1 day ago • Lastly replied by HelloWorld23333 | 8 |
 |
有没有可以笔记本部署比较不错的代码模型 vverr • 1 day ago • Lastly replied by jjx | 29 |
 |
超聚变的 fusionXpark GB10 有人用吗? huntai520 • 3 days ago • Lastly replied by qaq13037 | 1 |
 |
有什么本地部署好使的写代码小模型吗？ 24GB 显存玩玩那种 52txr • 15h 47m ago • Lastly replied by miaosheng | 24 |
 |
[分享] Mac 本地跑大模型实测： 54 tok/s，一年省下 API 费 ≈ 一台 Mac mini daniel2493468168 • 7 days ago • Lastly replied by daniel2493468168 | 8 |
 |
PHP2Shell 的攻击链，超过了大多人类的智商吗 jacketma • Oct 29 • Lastly replied by coefu | 6 |
 |
本地机器能跑 DeepSeek v4.1flash 或者 Qwen3.8 得多少钱？ cjkcjkcjk • Oct 21 • Lastly replied by panghu960 | 95 |
 |
H100*2 本地部署大模型求助 Lekou • Oct 22 • Lastly replied by panghu960 | 15 |
 |
你好 NVFP4： strata-0.1.44.1， qwen3.8-flash-next， rtx pro 5000 48GB + 64GB RAM， decode 130t/s， prefill2600 t/s sentinelK • Oct 22 • Lastly replied by panghu960 | 8 |
 |
笔记本 125B 模型 Q4 量化， xHigh256k 调优峰值 64tps。附部署和调优源码 flkaylor19 • Oct 24 • Lastly replied by panghu960 | 1 |
 |
本地大模型：统一内存(UMA)和显存+内存(分层卸载), 统一内存 UMA 才是普通用户的未来！ jinsongzhaocn • Oct 22 • Lastly replied by panghu960 | 19 |
|
strata 极致优化指南（参数篇）64GB RAM + RTX pro 5000 48GB， IQ3_XXS 量化， prefill 4500t/s， decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill sentinelK • Oct 19 • Lastly replied by Ken1028 | 15 |
 |
RTX 3080 Ti 12G 跑 125B MoE Qwen3.8-Flash-Next — Strata 安装跟实测
TGOcc PRO |
16 |
 |
有没有人装过 Strata + Qwen3.8-Flash-Next 125b？我遇到的问题是在 workbuddy 里一直超时。 zktz • Oct 26 • Lastly replied by panghu960 | 9 |
 |
小模型训练、蒸馏、微调的需求大吗？目前想训练自己的模型、又觉得成本太高放弃或犹豫的团队多吗 qwzhang01 • Oct 11 • Lastly replied by coefu | 2 |
 |
2 万块以内，可以本地部署的最好的模型是哪个？ jedeft • Oct 11 • Lastly replied by levn | 10 |
 |
pro6000 部署 Qwen 3.8 flash next nvfp4 zzutmebwd • Oct 9 • Lastly replied by jinsongzhaocn | 56 |
|
人人编程 VS AI SaaS，真的有优势吗？ jacketma • Sep 30 • Lastly replied by 94 | 4 |
Select Language