这是一个创建于 32 天前的主题，其中的信息可能已经有所发展或是发生改变。
看到 llama.cpp 项目支持 AMD GPU （ https://github.com/ggerganov/llama.cpp/blob/master/docs/build.md#hip ）
AMD 官网看到支持 https://rocm.docs.amd.com/projects/install-on-windows/en/latest/reference/system-requirements.html
东哥那边查一下价格，24G 显存不到 7~8k 。就是不知道跑起来效果怎么样。
第 1 条附言 · 32 天前
目前支持多卡并行的型号仅限 RDNA3 Navi31 核心的高端系列，具体包括：
RX 7900 XTX 、RX 7900 XT 、RX 7900 GRE 、PRO W7900(双插槽)、PRO W7900 、PRO W7800 。
其中，7900 XTX 、PRO W7900 可以双卡并行，首次正式支持的 PRO W7900(双插槽)可以最多四卡并行。
RX 7900 XTX 、RX 7900 XT 、RX 7900 GRE 、PRO W7900(双插槽)、PRO W7900 、PRO W7800 。
其中，7900 XTX 、PRO W7900 可以双卡并行，首次正式支持的 PRO W7900(双插槽)可以最多四卡并行。
 |
1
liu731 32 天前
4090 宝刀未老
|
 |
2
terence4444 32 天前
马上 9070 就要宣布了，如果可以的话稍微再等一下看看。
|
 |
3
lusi1990 32 天前 via Android
凑合
|
 |
4
by 32 天前 via Android
AMD 显卡在 Windows 系统只配当个亮机卡
|
 |
5
paranoiagu OP 谢谢各位，别的网友继续继续
|
 |
6
txx 32 天前
我用 7900xtx 半年了
优点是显存大，能跑很多 20G+ 的模型了，比如各种 32b ，打游戏也没问题，确实比同价位的 4080S 香 缺点是无论 Linux 还是 Windows ，掉驱动情况严重，一旦掉驱动就要重启，Linux 下因为显卡驱动崩掉了，重启还会 hang 住，需要硬重启。 如果你只是拿来玩玩那没啥问题，如果追求 SLA ，那还是算了 |
|
7
paranoiagu OP @txx 谢谢，掉驱动有点怕啊，支持多卡后跑 70B 模型吗？
|
 |
9
javazero 32 天前
同问，配好了 9800x3d ，5090 抢不到。想找个卡过渡一下
|
 |
10
coderlxm 32 天前 via Android
我用了一年多从来没掉过驱动，每天高强度打游戏。
|
|
11
paranoiagu OP 刚才草草在 7840HS 笔记本上试了一下 780M ，跑 deepseek-r1:7b ，13token/s ，速度可以。但是应该没法跑更大模型了。
|
|
12
paranoiagu OP 两张 7900xtx ，应该可以跑 deepseek-r1 70B 模型吧
|
|
13
txx 32 天前 via iPhone
@paranoiagu 70b 直接用 groq 啦
|
 |
14
2000wcw 31 天前
79XTX=湊合.......🤣🤣🤣
|
 |
15
secondwtq 31 天前
确实可以跑，效果也凑合。
你如果只是想跑 LLM 的话也可以买 3090 。 |
 |
16
xz410236056 29 天前
@by 你多久没用 A 卡了？？？ 7900 XTX 跟 4080s 性能差不多。
|
 |
17
endsock 27 天前 via Android
从 4080s 换到 7900xtx ，非光追的情况，游戏方面的优势比 4080s 强，afmf 超棒，大模型 ds 32b q5 量化随便跑，生成速度很快，效果很不错。现在 wsl 也支持 pytorch rocm 了，模型训练也没有问题，6000 块买的，兼顾了跑 ai 和游戏，还要啥自行车，就算 9070 发布，16g 的显存可跑不了 32b ，那跟 4080s 这种的没啥区别，对大模型来说就是残废
|
|
18
endsock 27 天前 via Android
上面说的掉驱动问题根本不存在，拿到卡第一件事重新安装系统，如果有 intel 核显的，不要安装 intel 核显驱动，并在断网状态下把 windows 自动安装驱动的功能关掉，然后联网 amd 驱动直接安装最新版本并更新到最新版本，非常稳定，所有掉驱动的都是因为系统残存 nv 驱动或者存在 intel 核显驱动造成的，amd 对不同显卡品牌的驱动兼容性做的不好
|
|
19
endsock 27 天前 via Android
做好上面的步骤之后，上 b 站看降压超频的教程，按照教程调试好电压与频率，这下发热和耗电的问题也解决了，调试好之后会发现 xtx 真是一张好卡
|
|
20
endsock 27 天前 via Android
最后要注意，电脑的电源最好是 atx3 的，如果不是电源要大于等于 1000w
|
|
21
paranoiagu OP @endsock 谢谢反馈，6K 性价比不错，可惜目前涨价了
|
 |
22
xunmiqun 26 天前
@paranoiagu #11 680m 也可以😌
|
|
23
paranoiagu OP @xunmiqun 我试过 780M ，确实可以
|
 |
24
xiaogui 17 天前
为了 24G 显存，已经购买了 RX 7900 XTX 。
|
Select Language