V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
RonniePolaer
V2EX  ›  程序员

求推荐企业现有已成案例的大模型+知识库的配合

  •  
  •   RonniePolaer · 19 天前 · 1036 次点击
    11 条回复    2024-11-04 20:01:39 +08:00
    dddd1919
        1
    dddd1919  
       19 天前
    要为来年 KPI 编故事了
    zwyyy
        2
    zwyyy  
       18 天前
    同问,我现在也有这样的需求,同时还需要支持 workflow
    naixiaoxin
        3
    naixiaoxin  
       18 天前
    dify?
    yijihu
        4
    yijihu  
       18 天前
    用 bisheng 吧,目前看过来也就 bisheng 最合适了
    TonyG
        5
    TonyG  
       18 天前
    目前在企业普及私有模型还是个悖论,单机能跑起来最新 30b 以上模型的成本就已经不低了,小公司肯定不会考虑,大公司又存在并发的情况单机跑一个模型肯定是不够的。上云存在信息外泄和长期被绑架持续消费风险,所以怎么看都还很难在企业内通过简单的堆砌数据和模型来解决实际问题。现在唯一可行的方向我觉着就是低端模型(服务器成本低)+微调+大比例的系统设计和编程,这样才能尽量多场景的让模型产生实际作用,否则仅仅提供个通用聊天机器人意义也不是很大。
    RonniePolaer
        6
    RonniePolaer  
    OP
       15 天前
    有相关 workflow 的教程和调教教程吗
    RonniePolaer
        7
    RonniePolaer  
    OP
       15 天前
    需要有个完整的解决方案,市面上有这种案例吗
    RonniePolaer
        8
    RonniePolaer  
    OP
       15 天前
    @yijihu 看着好像没 fastgpt 的 ui 好
    RonniePolaer
        9
    RonniePolaer  
    OP
       14 天前
    @TonyG 有更好的私有化部署的案例吗?我们应该算是低端模型+私有 xwiki 知识库+pg 库
    TonyG
        10
    TonyG  
       13 天前
    @RonniePolaer no idea ,我觉着现在还为时尚早
    yijihu
        11
    yijihu  
       8 天前
    @RonniePolaer 对企业内部信息化来说,bisheng 是比较合适的
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2779 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 00:20 · PVG 08:20 · LAX 16:20 · JFK 19:20
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.