V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
askfermi
V2EX  ›  分享创造

一个开源免费,在浏览器上调用 LLM API 的浏览器插件 (webpilot 的 fork)

  •  
  •   askfermi ·
    xzyaoi · 2023-07-07 00:22:45 +08:00 · 2471 次点击
    这是一个创建于 509 天前的主题,其中的信息可能已经有所发展或是发生改变。
    花了个周末魔改了一个浏览器插件 如图:



    Chrome Store: https://chrome.google.com/webstore/detail/limmat-copilot-for-all-fr/nmaoiepmfcmjmijmmcjjkonbghkcoklf?hl=en

    如果需要 auth key ,可以随便填一个 :) 并没有真的写验证

    GitHub: https://github.com/autoai-org/OpenWebpilot

    这是在 https://github.com/webpilot-ai/Webpilot 的基础上改的,从需要付费的 chatgpt API 修改成了调用一个免费的开源 model (mosaicml/mpt-7b). API 是通过一个去中心化的计算框架实现的( https://ocf.autoai.org/), 也就是说,你也可以用你的 GPU 来 serve 其他人的请求。目前因为只有一些比较差的 GPU ,所以速度比较慢 :(

    欢迎加入 Discord 讨论!: https://discord.gg/fZehkaqmhh
    2 条回复    2023-07-07 13:51:45 +08:00
    zqjilove
        1
    zqjilove  
       2023-07-07 10:07:13 +08:00   ❤️ 1
    体验了一下,中文页面总结,给了一个有英文结果。感觉还是原版的 chatgpt 靠谱点。 虽然 mpt-7b 模型可以基本的也可以用,但是可以用和好用之间的差异还是太大了。
    askfermi
        2
    askfermi  
    OP
       2023-07-07 13:51:45 +08:00 via Android
    @zqjilove 是的 只能希望开源模型加加油 :(
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3527 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 49ms · UTC 04:44 · PVG 12:44 · LAX 20:44 · JFK 23:44
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.