最近在学习 electron, 写了一个加载本地 gguf 模型聊天的应用练练手, 欢迎体验

ckvv · 2024-10-11T09:32:59Z

https://github.com/ckvv/lumos/releases 下载你对应机器的安装包 https://huggingface.co/models?library=gguf 打开需要使用的模型即可

爱意满满的作品展示区。

This topic created in 760 days ago, the information mentioned may be changed or developed.

7 replies • 2024-10-12 17:16:27 +08:00

YiXinCoding

Oct 11, 2024

本地 RAG 就更棒了

kevan

Oct 12, 2024

和 LM STUDIO 比怎么样？

kevan

Oct 12, 2024

Microsoft Defender SmartScreen 阻止了无法识别的应用启动。运行此应用可能会导致你的电脑存在风险。

kevan

Oct 12, 2024

很不错，star+1

kevan

Oct 12, 2024

为什么不能设置 system message ？

kevan

Oct 12, 2024

我发现你的这个程序运行 gguf 响应很快啊。

kevan

Oct 12, 2024

强烈推荐低配机器使用 B 站的 1.2GB 语言模型。体验很好

最近在学习 electron, 写了一个 加载本地 gguf 模型聊天的应用练练手, 欢迎体验