V2EX › KaiWuBOSS 的所有回复 › 第 2 页 / 共 5 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5

❮

❯

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@seakingii 我去了全英文看不懂发帖还自动被删

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@maix27 哪里可以报名有这类平台链接么？老师您是其中的成员吗？能推荐我么？

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@maix27 但是我没想定标准呀我只是找问题最好解决的方案。没说要都按我这个来吧。你批评我 readme 是 ai 写的确实是，我接受但我确实不会写呀。但这样就不能发仓库了吗？感觉老师您有点上头了我刚翻了评论，我没有哪里刺激您吧。您是觉得我们这种 vibe 不会代码，又胡思乱想，还不按正常道路做项目是这个意思吗？那我确实跟您道歉，但不至于害人害己，糟蹋精力，如果不喜欢或者用不上甚至说方向不对，不理睬就是。

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@maix27 老师这是什么 AI conf 是论坛还是社区吗？

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@maix27 不好意思刚回复比较多不知道哪句话冒犯了老师我新来不太懂这边礼仪请见谅后面回帖注意语气

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@maix27 其实本身是个求指导贴子希望有人帮我把项目完善一起做一个好的产品出来用只是后面大家争论到本地模型值不值得开发。方向带偏了。不带个人情绪，我只是求助。另外我本身也是 vibe ，代码不是专业出身，也没有炫技成分。

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@whyw 额我出发点也是付不起高昂的 opus 费用呀一个月五六千呢

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@cyp0633 这是两种东西一个专家是静态的文本不是智能体 agent 他是一个 python ，进入数据出来是固定的数据或者代码。你说的那个自定义 agent 是 llm 分出来的子 agent 。这两个不是一个东西不好比。我这么说你就懂了，moe 架构相当于 ai 控制若干个门，门外面有很多 python 的软件，要做任务时候 ai 告诉打开哪几个门让门里的软件干活。而现在主流的 cc codex 这类是 ai 动用里面工具把任务干完，这是两个不同东西。

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@ntdll 嗯理解是对的他是什么呢就是模型部署后在哪里运行不管什么模型。不过我这个是专门针对本地模型优化的，api 接进来使用就工程量冗余了，因为很多功能是给低参数模型辅助的，高参数模型用不到。另外你说的很对，能用到好用需要持续优化，所以我希望大家一起，我一个人力量太小。同时大家也看到了，基础设施上，这些 lmstudio ollama 还是 cc codex cursor 好用都是国外的就连龙虾和爱马仕都不是国人开发的。所以我觉得国人应该打造一个不用翻墙贴合自己使用的 cli

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@sampeng 嗯我当然也笑了我找找那人链接 1.76 复制打开抖音，看看 [牛码架构的作品] 还在为大模型部署的显存焦虑？重磅开源项目 AirL... https://v.douyin.com/JS3W756Zja8/ 10/22 HvS:/ [email protected]

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@kennylam777 我本来想了个天才点子能彻底解决小模型能力不足问题就是搞不定的问题上网搜答案我现在 opus 修不了的我就让他上网搜一搜就有方案了但我搭建的搜索引擎太拉胯了优化不够

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@xzcv 我说下技术不同，opencode 和 cc 一样的思路，是 llm 做功的串行框架，就是自然语言给 llm llm 去调用各种工具去实现。这个技术对本地低参数模型并不友好。因为他没那么大能力去实现多参数多文件的处理。所以我用了 moe 框架，llm 只需要控制 gate 然后分配专家去干活，不需要他亲自去解题，我不知道这么说能不能听懂。

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@zhanying 以前有个人跟我说过一个笑话说手机怎么可能拍照手机要是能拍照那得设计得很厚装得下镜头和底片

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@suiterchik 谢谢哥

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@kennylam777 1 、这几个我都看了但他是标准的通用型 coding agent 不是专门为本地部署优化的采用都是串行的 llm 解决思路意思就是靠主模型强大能力去做任务框架只做约束和规范。但本地模型参数小干不了 2 你这句话很像我刚说的 ollama+cc 都不用你这么麻烦你装了 ollama 再装 claude code 然后 ollama 有命令直接接入 claude 。

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@ChicVoice 你应该问 ollama+cc 不香吗？

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

如果没人一起搞我就自己干了反正 tok 开发那些无聊的 skill 也是浪费认真深耕这套产品

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@purerain 可是差距越来越小了不是吗？现在也许不行，但很快了，你难道不感觉吗？昨天有个抖音吹牛逼说 8g 显存部署了 100b 模型。

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@zhanying 确实现在 30b 还不行如果未来 100b 模型可能在 5060 部署了呢如果不久我们发现 30b 模型够了能各方面超越 opus 呢？我们依然被他们牵着。大厂在争抢更好的模型，开发者继续被折腾。我不喜欢这样，但我又无能为力，这是我为什么要发起这件事的原因。

4 月 28 日

回复了 KaiWuBOSS 创建的主题 › Local LLM › 能一起给本地部署的开源模型做个适配的 coding agent 吗？我憋了口气

@aceboy 所以国际共产主义要求我们必须一起去突破

1 2 3 4 5

❮

❯