unknow1's recent timeline updates
unknow1

unknow1

V2EX member #596244, joined on 2022-10-04 16:49:15 +08:00
unknow1's recent replies
23h 4m ago
Replied to a topic by jiezou Local LLM 大模型小白推荐一下本地模型
这三个测试用,要想好用,你这个配置不够
23h 5m ago
Replied to a topic by jiezou Local LLM 大模型小白推荐一下本地模型
重排模型:接入 bge-rerank 重排模型(ollama 不支持重排模型,需 docker 运行)或 qwen 重排模型
向量模型:modelscope.cn/Qwen/Qwen3-Embedding-4B-GGUF:latest
文本模型:modelscope.cn/Qwen/Qwen3-8B-GGUF:latest
简单看了下,在查询模型列表时,local.go 里 ListModels 方法:if p.typ == "Ollama" 分支没有进去,具体原因没有继续探查。
前几天做知识库项目选型,发现了这个 openAgent ,但是 ollama 本地模型对接后几乎无法使用,就是目前的版本,测试了好几次都不行,后来换了其他知识库 Agent 。目前来看这个项目还不太成熟,不过你们的定位还是挺吸引人的:开箱即用的单文件本地 Agent ,希望你们越做越好~
还不错,白嫖开启~
codebuddy 便宜
@ZCPgyer 感谢,祝大卖
ID:1248 谢谢老板
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5887 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 490ms · UTC 03:20 · PVG 11:20 · LAX 20:20 · JFK 23:20
♥ Do have faith in what you're doing.