V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
wangshushu
V2EX  ›  分享创造

700AI,一个产品经理艰难“开发”的本地 AI 工具

  •  
  •   wangshushu · 105 天前 · 1353 次点击
    这是一个创建于 105 天前的主题,其中的信息可能已经有所发展或是发生改变。

    怎么做的?

    思路很简单,就是把 ollama ,模型( qwen2 ),还有前端(ChatGPT-Next-Web),想办法打包到了一起。

    都是利用的现有项目,没有任何开发的成分。

    对于全无开发经验的产品经理来说确实比较痛苦,很幸运的是跑起来了,不枉我将近两天的尝试,和 ChatGPT 的帮助。

    下载地址

    打包了 qwen2:0.5B 的演示版本,解压缩后点击运行.bat 即可,因为模型非常小,所以绝大多数 Windows 电脑都可以运行,就是比较傻。 链接:https://cloud.189.cn/t/7fEV3qYBjuYz (访问码:wh8g )

    为什么要做这个产品,或者有什么价值

    先吹个大一点的牛

    Name Story

    这个产品的初心,是做一个属于个人,服务个人的,以安全,隐私,可靠性为目标的 AI 产品。

    我让 ChatGPT 帮我取了一系列的名字,SecureMind ,ShieldGen ,BanyanAI ,AegisAI ,PrivyBrain 等等。

    但首先是这些名字很多都被注册了;

    其次想取一个中文名的时候,很难找一个跟英文贴切又亮眼的翻译。

    后来我想到了陈奕迅的一首歌,叫《七百年后》,而这首歌的灵感来自于电影《 WALL-E 》,这也是我非常喜欢一部动画片。它们描述了在七百年后的世界,生存,家园,与爱。

    所以,我觉得 700AI 是一个好名字,蕴含了这种跨越物质与生死,无惧于时光流逝的情感与文明。(再者,700AI 这个名字也解决了我中英文的苦恼,无论在什么语言当中都很好宣传🙂)

    Vision

    成为广泛,长期,跨越时代的 AI 企业。

    Mission

    利用先进的技术与思维,致力于提供安全,隐私,可靠的 AI 产品与服务。力求通过 AI 的广泛应用,改善人类的生活与教育水平,提高生产效率,增强人类应对挑战的能力。

    Credo

    AI 是下一个时代的操作系统,解决生态与用户交互的问题,我们需要像思考操作系统一样来思考自己的产品。

    坚信小规模模型能力的快速提升,坚信推理成本的快速下降,基于这两点,相信本地运行的 AI 的能力会叠速发展,成为一种相当主流的服务形式。

    随着 AI 服务的愈加深入,隐私保护的问题愈加突出。

    当气候变迁,资源枯竭,能源危机,秩序崩坏,AI 高度压缩的知识与高效的信息处理,会成为文明重建的关键。

    再来点实际的

    一定要有自己的生意,哪怕再小

    来自 X 的大佬 @PengXiao 的忠告,深感认同

    这件事非常容易启动

    现成的项目很多,尽可能选 MIT license 的,大模型也都是开源的,做起来投入没有那么大。

    未来有一定的想象空间

    700AI Desktop——Studio——OS——Station ( HW ),有比较明确的演进路线。

    未来的计划

    1. 当前有稳定工作;
    2. 中短期内,只做离线;
    3. 会做付费,尽早商业化,(大家也帮忙看看有没有合规风险);
    4. 会努力做渠道推广;
    5. 临界点是能养活自己。

    欢迎有兴趣的伙伴加我 wx ,共同探讨:R29vZ2xlTWljcm9zb2Z0

    4 条回复    2024-08-10 22:06:24 +08:00
    ztm0929
        1
    ztm0929  
       105 天前
    比较好奇你会如何做付费功能? 0.5B 的能力恐怕非常低
    wangshushu
        2
    wangshushu  
    OP
       105 天前 via Android
    @ztm0929 0.5B 是演示
    ztm0929
        3
    ztm0929  
       105 天前 via iPhone
    @wangshushu 有需要的话就打包更大的版本对吗?如何吸引付费呢?👀
    wangshushu
        4
    wangshushu  
    OP
       104 天前 via Android
    @ztm0929 对的,7B 到 9B 会是比较合适的模型。吸引付费,就是得找到精准的目标群体
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2709 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 44ms · UTC 12:17 · PVG 20:17 · LAX 04:17 · JFK 07:17
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.