V2EX › Chihaya0824 的所有回复 › 第 1 页 / 共 34 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5 6 7 8 9 10 ... 34

❮

❯

9 月 23 日

回复了 IslandOwnerHuang 创建的主题 › 职场话题 › 试用期没通过，很迷茫，求指点🙏

快跑，他们纯白嫖

实际上是现在什么公司都不会很有意愿帮给你签证
所以如果去不了大厂感觉你赶紧自己考虑自己怎么做好自己的身份比较好
现在大厂也难进

9 月 8 日

回复了 tianrunlin 创建的主题 › Claude › claude 封号以后退款多久能到账

https://i.v2ex.co/eRkwuKIX.jpeg

8 月 31 日

回复了 should 创建的主题 › iDev › App 上架 Apple AppStore，会员只接入支付宝是不是必通不过审核

@should 不想付这个税直接转交给用户呗（

8 月 31 日

回复了 should 创建的主题 › iDev › App 上架 Apple AppStore，会员只接入支付宝是不是必通不过审核

@should 网页引导不行的，至少不能跳转那些的，但是如果用户是在网页里开完了继续用会员的话好像是 OK 的？
反正跳转确实是审核直接不让过

8 月 7 日

回复了 yiranw09 创建的主题 › Local LLM › 请教一下，本地部署 deepseekV4flash 大概需要什么样的配置需求？

@Chihaya0824 游戏显卡少 2 倍的 tensor core 性能的 “游戏显卡的 2 倍的 tensor core 性能的” 打错了不好意思

8 月 7 日

回复了 yiranw09 创建的主题 › Local LLM › 请教一下，本地部署 deepseekV4flash 大概需要什么样的配置需求？

@Gnnbb BF16 over TF32 accumulation 怀疑是有 5090 一样的游戏显卡的非解锁算力，总之就是很慢
pro 卡一般是和同 die 的游戏显卡少 2 倍的 tensor core 性能的

8 月 6 日

回复了 yiranw09 创建的主题 › Local LLM › 请教一下，本地部署 deepseekV4flash 大概需要什么样的配置需求？

@yiranw09 是，没有 matmul 加速导致的，但是 m5 也并没有解决什么问题，目前只支持 fp16/bf16/int8 的加速，不恰当的例子你可以理解为他停留在 sm80(A100)时代

8 月 6 日

回复了 yiranw09 创建的主题 › Local LLM › 请教一下，本地部署 deepseekV4flash 大概需要什么样的配置需求？

@yiranw09 不是，Mac 带宽可以的，我说的是 prompt processing 慢，就是你给他大量长文本的时候你要等很久才会开始吐字，以及并发使用的时候会很慢

8 月 6 日

回复了 yiranw09 创建的主题 › Local LLM › 请教一下，本地部署 deepseekV4flash 大概需要什么样的配置需求？

还有别买 pro 6000D ，一买一个不吱声

8 月 6 日

回复了 yiranw09 创建的主题 › Local LLM › 请教一下，本地部署 deepseekV4flash 大概需要什么样的配置需求？

别买 mac, PP 拉完了，同理由不推荐 dgx spark/AI max 395 ，除非是愿意等那其实 ok （ 395 问题更大，fp8 都不支持）
正经用就是最低 2 个 pro 6000 或者 4 个多人大 context
如果电够多也可以选择 8 个 5090 的方案也行

@vandort 靠谱，sm80 系列其实就是会有不支持 fp4 的问题，就是没办法跑原版（

7 月 30 日

回复了 aimuz 创建的主题 › DeepSeek › DeepSeek 4 正式版是不是鸽了

@Yadomin 你是天才吗

7 月 13 日

回复了 beginor 创建的主题 › Local LLM › 本地部署 GLM-5.2 的门槛太高了，根本玩不起！

@Maerd
试一下 https://docs.vllm.ai/en/stable/features/kv_offloading_usage/
我是觉得超过 256K 输出就没那么可用了，所以我一直都管理到 256k 以下（
如果实在是想要再多一点的话可以把 cuda graph 关掉，应该能更多一点

6 月 29 日

回复了 beginor 创建的主题 › Local LLM › 本地部署 GLM-5.2 的门槛太高了，根本玩不起！

gguf 是这样的，有几点 op 可以试一下，算是在小显存里挣扎的一些经验
1.用 fp8 的 kv cache
2.尝试用 speculative decoding ，就是说你把 MTP 给打开，应该能够让 tps 变高挺多的，后续如果有 dflash 还可能可以提高更多
3.接受质量损失去用 awq 版，但是肯定不会比 fp8 好
都可以试一下，8 个 h20 肯定可以跑的，而且 kvcache 还可以做 tiering ，可以用内存 swap ，变相支持更多用户（一定程度上）

5 月 21 日

回复了 murongxdb 创建的主题 › 程序员 › 很好奇 RAG 真的是现代 ai agent 所需要的吗，还有 langchian 这种框架，没有看到太多知名开源项目用到了

@murongxdb 你是否在找
https://arxiv.org/html/2605.15184v1
前几天才看见这个 paper

5 月 20 日

回复了 Helcatele 创建的主题 › 宽带症候群 › 想问下有人关注 GL.iNet 的 Mudi 7 吗？

不行，这种 cpe 最好还是中兴或者华为之类的，他们信号不是很好，开源也不是很好（以前开，现在好像都不开了

5 月 19 日

回复了 roykingH 创建的主题 › NAS › 致态的 SC001 固态盘是不是有问题？

直通到 Windows 虚拟机里在 CDI 截图呗，如果不愿意拆下来的话
@roykingH

5 月 6 日

回复了 Allendeng 创建的主题 › 职场话题 › AI 时代，真正拉开差距的不是信息，而是 mindset

Not X but Y 直接判定为 AI slop

5 月 4 日

回复了 SzgSw5zGyN1iy 创建的主题 › Local LLM › DGX Spark、ASUS GX10、MSI EdgeXpert 看起来都像是一个母胎的产品，用起来有差别吗？

原版散热比较差
其他散热据说好一点，但是我只用过原版
反正买一个以上千万不要堆叠摆放，他会降频

1 2 3 4 5 6 7 8 9 10 ... 34

❮

❯