V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  coefu  ›  全部回复第 12 页 / 共 62 页
回复总数  1237
1 ... 8  9  10  11  12  13  14  15  16  17 ... 62  
3 月 12 日
回复了 davidyin 创建的主题 Local LLM 如何在 vs code 上应用自建的 ollama 模型
@davidyin #4 https://github.com/continuedev/continue ,比较爽,vscode 能直接读文件,改文件,还能读项目架构。不过,你要分成 3 个模型来搞。
chat,edit,apply 一个模型,通用模型最好,用来搞需求实现。顺便帮你直接 code 。
auto-complete 一个模型,用 qwen2.5 coder 0.5b 就 ok ,你自己想改动的时候,自动补全。
embed 一个模型,这个可能要大一点,上下文 128k 的那种,可以直接读 整个项目,梳理项目架构。
3 月 12 日
回复了 davidyin 创建的主题 Local LLM 如何在 vs code 上应用自建的 ollama 模型
@davidyin #4 搞定了没?我最近跑通了。你装个 continue 的插件就行了。
ds 的分析效果怎么样?
靠,手工老弟,还得是你小子。
1T ,只能是 mac studio m3 ultra 512G * 2 串联了。成本 20w 起步。
3 月 11 日
回复了 qize0921 创建的主题 程序员 2w 预算,请教下装机配置问题
2w 太多了,我只会 2k 的预算。🐶
3 月 11 日
回复了 coefu 创建的主题 OpenClaw Openclaw ? No. Figure helix 02 yes!
竟然移到了 openclaw 的节点下?不应该起这个标题的。它完全不配和 helix 02 相提并论。
3 月 11 日
回复了 coefu 创建的主题 OpenClaw Openclaw ? No. Figure helix 02 yes!
以前一直以为,蓝领,还能坚持一阵子。

就目前来看,这波预测了。到下半年,甚至年底。蓝领遇到的冲击也将要如同当前 coder 这般了。属实三千年未有之变局。

蓝领工种里,我觉得最难攻克的是,有一定经验的厨师,毕竟,就算是人来做,也要个很多年才能做到有造诣的大厨,这是根本性的堡垒。

公开的离散场景里,家政可能会是像现在 coder 这样被先突破的领域。工地比较难,毕竟有很多要上力气的,现在电机没有突破的情况下,工地目前还是很难替代的。奶茶店员工,超市的理货,估计是一波现实打击了。

封闭场景,最先被替换的应该是 工厂流水线。具身智能的厂商应该是先在 半离散场景的工厂流水线,跑通验证,当然之前也签了很多单子,figure 这波真是瞌睡来了送枕头。却苦了现在这波人,连流水线都没得去了的话,那会是个什么样的场景。

苦也。
3 月 11 日
回复了 Danswerme 创建的主题 Google Gemini 一直把我当作某乡党委书记该怎么办?
@noahjsn #4 在 设置和帮助,个人使用场景,关闭。
3 月 10 日
回复了 chaoxu 创建的主题 程序员 拥抱黑盒:一个研究者 All in AI 的实录与反思
1 ,"问题在于,如果只是让模型泛泛地 review ,比如让它找可合并、可重组、可调整顺序的地方,它通常只能抓到少数机会。最后还是得我亲自把问题点得很具体,明确告诉它“这里不对,那里不顺”。一旦点明,它反而能立刻看见那些结构性问题,接着给出很漂亮的修法;但在我没点出来之前,它经常像是根本看不见。"

因为你每句话或者每个段落里,要表达的意思太多了。对于 LLM 来说,他能提炼部分,但未必能按照你原意扩写。这也是它本身只是预测下一个词的概率,预测的风格决定了,和你思考的方式不同。肯定不会扩缩出你满意的词句。你问它同一个问题,多次的回答也不同,甚至有些中心思想都有不同。

2 ,LLM 让这个世界的 "伪知识" 熵增,让寻得 客观真理 变得越来越难。

3 ,不必悲观,远没有结束。LLM 当前甚至很长一段时间都会被圈在 硅基世界,离真正的物理世界,还要下一个范式的突破。

4 ,LLMs ⊂ "AI".
@Micoool #6 不是打击你,老兄,一点基础只怕是不够用的。LLM coder ,写的内容,没有工程经验,几乎是不用想看懂了。这不比人文社科,识字就能看懂。
https://mp.weixin.qq.com/s/Z6MzHAWhS6duLg5y1hDCYg

学术都被中转站毒害了,当然咯,都是一些水论文的。
3 月 6 日
回复了 sslzjx 创建的主题 生活 明天去见女方家长,这套配置怎么样
@Fish1024 论嘴臭,还得是你小子,哈哈,😄
3 月 5 日
回复了 davidyin 创建的主题 Local LLM 如何在 vs code 上应用自建的 ollama 模型
@davidyin 搞是能搞成的,工程角度来看,是有办法的,只是麻烦。你自己要学一堆东西先。你这种需求,不是共性需求,没人造轮子的。
@diudiuu #8 谢谢你先,但是我没搞🦞。而且,我对🦞这个方向没什么兴趣,😄。

去年这个时候,我把 langchain/rag 那套都搞过一遍,没什么意思。LLMs 整个领域,我都只用而已。
@diudiuu #5 我几百块的成本捡的垃圾,都组了一个智能密度看起来还可以的♾️tokens 。只是有时候慢一点。😄
@diudiuu #5 不差钱的话,全都买啊。mac studio m3 ultra 要是不搞 512g mem ,意义不大,顶配要 10w ,比 dgx spark 贵太多了。如果预算有限,就 dgx spark 咯?反正现在小模型的智能密度很高了。你要专业性和准确性的话,用 rag 提升,当前 ocr 和 rerank 都发展的不错了。

mac studio m3 ultra 可以串起来,组一个 1T mem 的组合 跑 671B 的 deepseek 。不差钱儿的话,这个肯定更好。
@diudiuu https://www.v2ex.com/t/1126516

小伙子,在我面前耍大刀了啊。我只是没有钱买 dgx-spark 。
3 月 5 日
回复了 neteroster 创建的主题 Apple Macbook Neo
@unneeded #2 吝啬这一块,还得是 apple 。
3 月 5 日
回复了 cat9life 创建的主题 Local LLM qwen3.5 过度思考的问题
@cat9life #5 你集成的 gpu tensor core 和 gmem bandwidth ,肯定其中有一个是瓶颈,或者两个都是。
1 ... 8  9  10  11  12  13  14  15  16  17 ... 62  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2732 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 42ms · UTC 04:47 · PVG 12:47 · LAX 21:47 · JFK 00:47
♥ Do have faith in what you're doing.