V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  coefu  ›  全部回复第 53 页 / 共 62 页
回复总数  1237
1 ... 45  46  47  48  49  50  51  52  53  54 ... 62  
2025 年 4 月 8 日
回复了 limatrix81 创建的主题 Local LLM 想自己上手跑跑 LLM 大模型,求推荐显卡和主机配置
@tool3d Intel 的 gpu 三起三伏,这次一样会伏。你真的了解 Intel ,就不会说小看 Intel 的 gpu 之类的,Intel 能保住 cpu 的市场占有率都是烧高香。
2025 年 4 月 8 日
回复了 limatrix81 创建的主题 Local LLM 想自己上手跑跑 LLM 大模型,求推荐显卡和主机配置
@limatrix81 既要又要还要是很难满足的,稳定性怎么样我也不清楚,要自己用过才知。散热可以改。
2025 年 4 月 7 日
回复了 limatrix81 创建的主题 Local LLM 想自己上手跑跑 LLM 大模型,求推荐显卡和主机配置
@limatrix81 专业个屁,Intel 的显卡都推荐,这是坑你呢。搞学习当然用 N 卡,Intel 的显卡起起伏伏就是个幌子,现在 cpu 都搞不好了,还兼顾个毛的 gpu ,之前多少 gpu 都是孤版,买了之后当 2 手都出不去。N 卡目前最合适的就 2080ti 22g ,弄 2 张搞个 NVLink ,既可以做学习用,也可以打游戏。你把 板 U 降一点成本,把内存搞多点。
2025 年 4 月 7 日
回复了 paranoiagu 创建的主题 Local LLM 本地 llama.cpp 和 ollama 跑 相同 模型,效果不一样
效果影响大的因素应该是 lightRAG 。框架能对 llm 有什么影响?
2025 年 4 月 3 日
回复了 lonjin 创建的主题 游戏 主玩 pubg,打算配一台电脑 下面这个配置怎么样吗?
@lonjin 主要是孤儿太多了,乐趣其实还是很多的。我滑翔机驾驶次数接近 700 次,已经是空中特技飞行员了。
2025 年 4 月 2 日
回复了 fcten 创建的主题 Local LLM 本地 AI 工作站装机
有钱。
2025 年 4 月 2 日
回复了 dyyd993 创建的主题 职场话题 双非硕有必要读吗
趁着现在考研不那么热度了,硕士毕业之后卷公务员或者事业单位,至于什么专业嘛,就不要太上心了。现在什么专业都惨。
2025 年 4 月 2 日
回复了 lonjin 创建的主题 游戏 主玩 pubg,打算配一台电脑 下面这个配置怎么样吗?
2000 小时玩家表示已经弃坑。
@hs444 我喜欢你这句不会主动避让水泥墩,哈哈
2025 年 4 月 1 日
回复了 op1sreal 创建的主题 职场话题 两个 offer,一个 web3,一个互联网中厂,求建议
@ChatGOP 难怪都是在国内找远程的,看来主流职场也是有清晰认知的。
2025 年 3 月 31 日
回复了 tangqiu0205 创建的主题 程序员 goland 如何远程开发?
goland 本身就支持远端编译和远端运行,还能远端 debug 。
2025 年 3 月 31 日
回复了 hubayi 创建的主题 职场话题 兄弟们要离职吗?
很天真了,外包还想要赔偿?若干种办法让你难受。
2025 年 3 月 31 日
回复了 tommark 创建的主题 创业组队 [上海] 大龄码农寻有创业想法的小伙伴一起捯饬捯饬
@Sail1997 还缺腿不?
2025 年 3 月 29 日
回复了 MimicOctopus 创建的主题 Local LLM 请教模型部署和管理的问题
定制化的需求,没有完全符合个性化需求的框架轮子,只有自己 diy 。
2025 年 3 月 26 日
回复了 HarrisIce 创建的主题 生活 突然觉得生活太复杂了,想听听 v 友们的看法
@llllk 谢谢夸奖,我愉悦地沉浸其中,乐此不疲。
2025 年 3 月 26 日
回复了 HarrisIce 创建的主题 生活 突然觉得生活太复杂了,想听听 v 友们的看法
等你再过 10 年的日子,就会发现,生活很简单 ,只有赚钱。
2025 年 3 月 26 日
回复了 HarrisIce 创建的主题 生活 突然觉得生活太复杂了,想听听 v 友们的看法
感觉矫情了。
老弟你运气不错,刚才我搜了下方案,还真被我找到了。
https://github.com/intel/ipex-llm/blob/main/docs/mddocs/DockerGuides/vllm_cpu_docker_quickstart.md
鸟领导很难伺候啊,就这硬件成本还挑三拣四,能搞出来就不错了。
searxng+firecrawl 完全本地部署,不需要 online key ,searxng 最新版本攘括了国内搜索厂商,不需要再部署在 gwf 之外。唯一的短板就是 firecrawl 在大并发量的情况下容易被搜索引擎 ban ip ,但是可以设置 proxy ,但是稳定的 proxy 不好找。不过好消息是,仅自己个人使用的情况下,被 ban ip 的概率还是很低的。
1 ... 45  46  47  48  49  50  51  52  53  54 ... 62  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2742 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 33ms · UTC 04:49 · PVG 12:49 · LAX 21:49 · JFK 00:49
♥ Do have faith in what you're doing.