V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  WuSiYu  ›  全部回复第 1 页 / 共 25 页
回复总数  492
1  2  3  4  5  6  7  8  9  10 ... 25  
@Rookie01 我用的不怎么小心,是会有几个明显划痕的,正常用不太容易有明显划痕
1L 说的很对,LPDDR5x 带宽不行,跑推理的话要想速度过得去只有大 MoE 模型(比如 Deepseek R1 671B 完整版)能利用上这么大内存。但其实个人跑个 qwq-32b 之类的也挺好了,大 MoE 完全是为了云端大规模设计的,个人跑成本反而远远更高
微调场景的话 fp4 稀疏的 1000TFLOP/s ,换算到实用的 fp16 稠密也就 128TFLOP/s ,算力不如半张 4090 ,也并不堪用
只有手机上,可以放心不带壳不贴膜用。不过 pro 本身中框就很结实,我摔过十几次,中框都伊拉克了,但屏幕就是没碎
3 天前
回复了 nealHuang 创建的主题 Apple 发现 Mac 自带了网络质量测试工具
这个 Responsiveness 是不是测 SQM 的?路由器上加了 cake 估计能改善
3 天前
回复了 moudy 创建的主题 Apple Mac Studio 实战 671B 全量大模型成绩出来了
个人玩真不适合玩这么大的 moe 模型。。。有多少钱都浪费在存这些参数上了,而人家云端至少几百张卡一组跑混合专家并行,平均下来能把成本优化到跟只跑跟激活的参数一样大小的模型( 21B )差不多
6 天前
回复了 AndrewHenry 创建的主题 编程 为什么中文编程没有发展下去呢
因为没有任何意义,现在英语教育造就普及了,语言障碍在编程的所有难点中是几乎最微不足道的,不会写的换成中文还是不会写
m4 单核是 m1 的 1.5 倍,有时候还是能有点区别
12 天前
回复了 desususula 创建的主题 Apple Mac 上大家都用什么浏览器?
firefox 换 zen ,最后换到 arc 了。。。
15 天前
回复了 LUO12826 创建的主题 MacBook Pro M1 Pro 用户换 M4 Pro 的感受和碎碎念
我是 m1 ( mbp13 2020 )换 m4p ,感觉还是很爽的
不过单核这个确实,日常使用时区别不大,只有软件冷启动或者处理东西时感知明显
16 天前
回复了 Unclev21x 创建的主题 Apple 苹果刚刚推出了新款 Mac Studio
@WuSiYu 打错了,前面是 q4
16 天前
回复了 Unclev21x 创建的主题 Apple 苹果刚刚推出了新款 Mac Studio
@icyalala 算了下,都 q6 量化的话,只考虑权重访存,70b dense 模型(如 qwen )的理论极限是 20+ token/s ,R1 671B 的 moe 模型,每次激活 37B 参数,理论极限 40+ token/s ,实际考虑计算和 context 大概折半,用 q6 等量化还要打折

不算不能用,但也不算快,100b+的模型只能推 moe 的,但 moe 模型恰恰就是大规模场景才能把成本降下来(冗余专家并行)。所以除非有涉密需求,不如与其 7w+买个这,还是租 API 比较划算
16 天前
回复了 Unclev21x 创建的主题 Apple 苹果刚刚推出了新款 Mac Studio
512 对 LLM 负载意义不大了,对于这个量级的 memory ,mac 的 memory bandwidth 和 gpu peak flops 都不太够看,用人话说就是跑更大的模型能跑但慢到没法用
建议两边都及时止损
21 天前
回复了 yiqiu2324 创建的主题 macOS 访问 raycast 官网,会导致 CPU 和 GPU 狂转..
M4 Pro 能复线,虽然短时间风扇没起飞,但能看到 GPU 跑满了,整机功耗从 10w 上升到 30w+
这玩意是 three.js 做的,相当于浏览器里跑个游戏
带英连高级数据保护都不让用了?那岂不是还不如。。。
国内其实不少原厂或能直刷 openwrt 的:gl inet ,banana pi ,cudy TR3000 (这个贼便宜)
mt789x 方案现在 openwrt 上的硬件 nat 支持很成熟,等同于硬路由了
但其实你跑 wg 的话总归是要吃 cpu ,软硬路由没啥太大区别
33 天前
回复了 jojoadv 创建的主题 macOS Mac 上切换应用真的烦死人。
dockdoor 好用,dock 直接能当 windows 任务栏用(有窗口预览,可以选择窗口)
33 天前
回复了 beginor 创建的主题 Apple ANE 可以跑大模型了!
有点意思,ANE 的 fp16 理论性能似乎跟 m4 pro 丐板的 GPU 差不多,但可预计会省电许多


@beginor 另外“企业级 NPU”其实早有了,比如华为和寒武纪的卡都属于 NPU (而不是 GPGPU )
43 天前
回复了 codefun666 创建的主题 MacBook Pro 买了一台 M4 Pro, 感觉不值
m4/m4 pro 其实比 m1 强多了,单核是 m1 的 1.5 倍应该是地表最强单核了,跑一些脚本很爽; m4 pro 的多核相比 m1 就更不必说了,甚至可以跑跑大型编译(用 orbstack 跑 linux ,体验比 wsl2 还好),pro 的厚重带来的是尚可的散热,air 的被动散热跑长时间较高负载的程序会很蛋疼

但如果你不拿它跑东西这些就完全没用了,日常体验 m4pro 跟 m1 对比确实感知不强,比 air 就只剩屏幕和喇叭了。不过个人感觉 mac 的 promotion 对比 60hz 远没有手机上的区别那么大,喇叭的话在家都不如正经音箱的一根毛,在外其实也很少有机会能外放,这么看日常用 air 也没太多不好
45 天前
回复了 dyyhobby 创建的主题 Apple 外置硬盘风扇被我拆了
其实还好,这种风扇都是无刷电机,一般有卡死保护的,最坏也就烧个线圈
1  2  3  4  5  6  7  8  9  10 ... 25  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2894 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 39ms · UTC 14:05 · PVG 22:05 · LAX 07:05 · JFK 10:05
Developed with CodeLauncher
♥ Do have faith in what you're doing.