Home Sign Up Sign In
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
Pbe2RsrnVcPrF
V2EX  ›  Local LLM

求推荐 基于本地文件的大模型？

  •   
  •   Pbe2RsrnVcPrF · Feb 2, 2024 · 1786 views
    This topic created in 823 days ago, the information mentioned may be changed or developed.

    想找个基于操作系统本地文件的大模型

    新接手的项目，代码逻辑啥的都不熟悉。想借助于 GPT 帮着熟悉代码。 例如：进入 xxx 目录 xxx 工程，解释 xxx 文件的第 xxx 代码，解析 xxx 函数的作用。类似这样的。

  • XXX
  • 代码
  • 文件
  • 模型
    5 replies  •  2024-02-02 13:22:54 +08:00
    overstar
        1
    overstar  
       Feb 2, 2024
    我用的 LM Studio 配合 codellama uncensored 版本，Q6 或者 Q8 感觉还行
    awah
        2
    awah  
       Feb 2, 2024 via iPhone
    @overstar #1 uncensored 版本有什么区别？
    overstar
        3
    overstar  
       Feb 2, 2024
    @luguhu 高清无码，有问必答😆
    lithiumii
        4
    lithiumii  
       Feb 2, 2024 via Android
    @luguhu 大公司发布的大模型一般先有个 base 版本，只能补全文字不能对话；在 base 的基础上喂对话数据集训练出能对话的版本，就可以聊天了。但是这个对话数据集会包含很多拒绝回答的内容，用来让大模型有道德观，比如拒绝回答怎样制造生化武器或者怎样骂人。大公司们必须这样做，来表示自己开发 ai 不是为了危害社会。

    但是其他人可以把这些拒绝回答的对话从数据集里拿掉，重新训练 base ，就获得了 uncensored 版本
    awah
        5
    awah  
       Feb 2, 2024 via iPhone
    @overstar #3 @lithiumii #4 谢谢科普，这就换 uncensored😆
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2528 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 05:22 · PVG 13:22 · LAX 22:22 · JFK 01:22
    ♥ Do have faith in what you're doing.