大神们推荐个,适合垃圾佬跑大模型的机器配置 jedeft • 172 天前 • 最后回复来自 wencan | 6 |
LLM 模型量化问题 为什么不量化 lm_head ? daweii • 179 天前 |
大模型底下的踩和赞是如何进一步影响到大模型的 weishao666 • 179 天前 • 最后回复来自 weishao666 | 2 |
深度学习入门 求工作站配置。 hrn961110 • 179 天前 • 最后回复来自 hrn961110 | 7 |
图像识别求助! sonnyclarity492 • 192 天前 • 最后回复来自 DocHelper | 7 |
想问问有用过 torch.profiler 的老哥吗 younggod • 200 天前 |
这种测试 prompt 的热图是怎么制作的 CNYoki • 222 天前 |
领域知识管理是生产高质量数据集的第一步 bululutech • 226 天前 |
请问有什么低成本的验证客户拿取的商品数量 lyxxxh2 • 227 天前 • 最后回复来自 snowg | 9 |
双目摄像头活体检测开源方案,最好是 Android 平台实现的 snowflake007 • 228 天前 • 最后回复来自 snowflake007 | 2 |
为啥 m1max cpu 跑深度强化学习比 3900x + 2080s 的台式机快好多 wsinglewell • 233 天前 • 最后回复来自 wsinglewell | 4 |
7B 大模型不量化, 16G 显存就差那么一点儿,难道消费级显卡只有 90 系能跑? CatCode • 243 天前 • 最后回复来自 basncy | 6 |
分享给对 ml infra 有兴趣的老铁们的学习资源 dayeye2006199 • 83 天前 • 最后回复来自 slayer | 3 |
本地训练模型疑问 jiujiutang • 264 天前 • 最后回复来自 jiujiutang | 4 |
使用 3090 显卡本地部署 baichuan2-13b-chat 非量化版,有人成功过没? zhlenmao • 186 天前 • 最后回复来自 smalltong02 | 5 |
机器学习识别 CAD 建筑图,平面图 johnman • 279 天前 • 最后回复来自 Jinnrry | 3 |
请问能本地运行大模型的库,类似 jan saveai • 279 天前 • 最后回复来自 saveai | 2 |
在 PyTorch 中怎么自己设计一个要被拟合的函数比如 y=ax^2+bx+c,然后梯度下降求解参数 abc rookiemaster • 250 天前 • 最后回复来自 shm7 | 2 |