下半年打算入个 mac mini ,用来跑本地模型+hermes 。
大概需要什么配置? (模型-对应-配置)
另:大家觉得年底,mac mini 二手价格能下来吗?
下半年打算入个 mac mini ,用来跑本地模型+hermes 。
大概需要什么配置? (模型-对应-配置)
另:大家觉得年底,mac mini 二手价格能下来吗?
1
urlk 12h 12m ago
用线上的万亿级别的大模型一年才几个钱 , 自己部署一些弱智的几十亿参数的模型能干啥, 只能做些特定简单任务, 别折腾了
给你个简单的内存计算方法, 电脑系统留 8G 不干别的活的话, 剩下内存的去模型网站看模型大小 例如 qwen3.5:9b 6488c96fa5fa 6.6 GB qwen3.5:4b 2a654d98e6fb 3.4 GB gemma4:e4b c6eb396dbd59 9.6 GB |
2
FawkesV 11h 36m ago
用来做啥? 我 mac 36G , 装的:gemma-4-26b-a4b-it-4bit 也就感觉只能用来聊聊天, 做不了开发
|
3
Yi 11h 23m ago
如果本月或下半年发布 mac mini m5 的话,二手会对应下降,不管怎么紧张渠道手里还是有一定量的 Mac mini M4 ,这些全新 M4 会降价出货,影响到后市场价格。
一个不靠谱的猜测,丐版的 Mac mini M4 16+512 受影响最大,16+256 真丐版可能反而受影响较小 LOL |
4
penisulaS 10h 49m ago
本地模型要么蠢,要么慢,用不大起来
|
5
ntdll 10h 49m ago
用 5 刀 OpenCodeGo 里的 DeepSeek V4 Pro 、GLM-5.1 这些,本地的 macmini 就是跑冒烟也比不上这些一丁点。
一个 macmini 的价格,能订阅十多年。本地部署在 99%的情况下,都是伪需求,能跑起来的弱智模型,你也看不上。 而且也不用讨论订阅 API 限额的问题,本身 mac 跑起来 token 速度也不快,就是 24 小时跑,也没多少,更何况弱智模型跑出来再多 token ,也没有实际意义。 当然,你要是就是单纯找个借口想买 mac ,那就是另一说了。 |
6
Maboroshii 10h 48m ago 跑个 qwen3-0.6b ,调试程序用挺好
|
7
mfkliq 10h 37m ago
不好用的,又蠢又慢
|
8
boy666 10h 34m ago
折腾完弃坑
|
9
lete 9h 52m ago
上 64G ,跑个 qwen 27b ,M 芯片能上 Pro 就上,模型速度跟内存带宽挂钩,Pro 内存带宽比基础款 M 芯片大
|
10
jimrok 9h 36m ago
等等吧,端侧模型现在还不行,云端模型刚刚迈过可用的线,等两年云端成熟了,会下移到端侧小模型,到时候再买会比较合适。另外自己搭环境,可能成本比云端一点不便宜。
|
11
phoenix380 9h 33m ago via Android
除非要跑什么容易触发 大模型厂商的安全边界的,我买了 24g m4 最后也卖掉了
|
12
coefu 8h 51m ago
mac mini 的内存带宽,会慢的让你怀疑人生。
|
13
bxtx999 8h 1m ago
32G 内存 + 2050 4G 的笔记本 用来跑跑 Gemma4-26B-A4B Qwen3.6-35B-A3B 用起来还可以。
|
14
ifwww 7h 39m ago
为啥要跑本地弱智
|
15
unusualcat 6h 38m ago
你自己用了就知道了,本机的模型弱智的要死,上下文长度有短的要死。给人的感觉就是你说了这一句,等一下他就忘了前面那一句。拿来教少儿编程,我觉得还行,干活的话你会被气死的。
|
16
gigishy 19 mins ago via iPhone
因为内存和存储涨价,所以 m4 芯片的 Mac mini 哪怕年底也不会降什么价。
而且估计 m5 的 Mac mini 不大可能有 256g 版本了,那么比 m4 的变相涨了。 16g 版本主要用来跑云端模型,端模型至少 32g 版本开始,能跑 35b 模型,当然如果正经生产力,尽量 48g 以上内存。 |