开源的大模型看文档性能要求都挺高的 ，所以提供的是炼丹炉，还是练好的模型，难道运行起来就要那么高的性能吗？
treblex · lazyfury · 2023 年 11 月 8 日 · 738 次点击这是一个创建于 856 天前的主题，其中的信息可能已经有所发展或是发生改变。
 |
1
treblex OP 好像也都需要 cuda ，没英伟达显卡
|
 |
2
me221 2023 年 11 月 8 日
都是提供训练好的模型
|
|
3
me221 2023 年 11 月 8 日  1
小参数模型用 3090 ，4090 也能跑推理，训练够呛
65B 之类的大参数模型就只能用 A100 这种专业卡了 |
Select Language