V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
ttgo
V2EX  ›  问与答

基于 LLM 的那些本地知识库,到了真可以提高效率的程度了么?

  •  
  •   ttgo · 182 天前 · 1427 次点击
    这是一个创建于 182 天前的主题,其中的信息可能已经有所发展或是发生改变。
    有可以真提高工作/学习效率的了么?

    或者仍然是搭起来跑一下就再也不用了?
    4 条回复    2024-05-31 13:57:38 +08:00
    mumbler
        1
    mumbler  
       182 天前
    大多数没有实用价值,但这是一个必经之路,主要目的是提升认知,无论对做的人还是用的人
    laminux29
        2
    laminux29  
       182 天前
    我有道云笔记,4500 篇,各种 Word 、PDF 、Excel 也是一大堆。

    以前纯靠搜索,但很多时候搜索结果不理想,还要自己去整理搜索关键字。

    就算搜索出来,也只是原始资料,还要自己整理加工。

    现在有了本地知识库 + 联网功能,信息处理效率,直接提高一个数量级。

    我比较介意目前 AI 的推理能力太弱,只能稳定的达到初级程序员的层度,距离架构师甚至项目总监的级别还远着,导致很多高端问题,AI 基本上就乱答,这就需要自己把高端问题,按照解题思路,拆开为一堆中低端问题,来逐步引导 AI 去推理。

    不过本地 LLM 局限性还是太大,目前更好用的方案,是支持网络浏览的聚合式 AI 平台,也就是让各种 AI 一起开会。因为就算目前的 GPT 4 或 Gemini 以及很多开源的,各有各的优缺点,GPT 4 并不是在所有问题,都能答对。所以让 AI 开会才是更好的用法,因为总有一款 AI 能碰巧猜对思路或答案。
    cgcs
        3
    cgcs  
       182 天前
    很好用啊,AnythingLLM ,Jan 之类的客户端,加本地跑个 7B 左右参数的模型
    ttgo
        4
    ttgo  
    OP
       181 天前
    @laminux29 你具体用的是哪个?

    @cgcs @laminux29 能说一下你们的应用场景么?
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4191 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 05:31 · PVG 13:31 · LAX 21:31 · JFK 00:31
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.