V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
herowu

原创:旗舰游戏显卡(980Ti,1080Ti,TiTan V,2080Ti,3090,4090), AI 画图 stable diffusion)和大模型(chatglm2-6b)推理性能横评

  •  
  •   herowu · Oct 25, 2023 · 2298 views
    This topic created in 928 days ago, the information mentioned may be changed or developed.

    前言: 自从去年 10 月份以 ChatGPT 和 stable diffusion 的发布引发了一波生成式 AI 浪潮,但很多人特别是某些领导整天在会议上说人工智能带来的各种风险和不足,其实自己几乎没用过 ChatGPT 和 stable diffusion ,对生成式 AI ( AIGC )只有偏见!缺少实践对新生事物的理解和抓住机会是有害的,由于这一波 AI 浪潮带着复杂难懂的各种专业术语和昂贵的平台,给习惯了点击购买云主机的 IT 从业者和个人开发者带来了不小的门槛,加之最近美国实体名单居然把游戏显卡 RTX4090 都加入禁止出售给中国的实体清单,我觉得有必要在”廉价”游戏显卡上把大模型对话和 stable diffusion 画小姐姐的生成式 AI 在自己的 PC 机上跑起来!这样才能谈后面的体验和带来的机会。 以下评测数据都是自己花钱、花时间原创测试得到,希望给所有开发者实践大模型和 AI 画图予参考,有帮助和喜欢的朋友请收藏、关注和点赞,让人人都能够参与的 AI 才是真正的 AI

    详细内容参看: https://zhuanlan.zhihu.com/p/663179436

    ztmzzz
        1
    ztmzzz  
       Oct 25, 2023 via iPhone
    这就 404 了?
    jack139
        2
    jack139  
       Oct 26, 2023
    不错不错!再整个模型训练的对比 :D
    byteboy
        3
    byteboy  
       Dec 9, 2023 via iPhone
    写得很好
    shm7
        4
    shm7  
       Feb 27, 2024
    这些老破卡跑个 SD 还行,工业化跑 LLM 简直就是搞笑。
    herowu
        5
    herowu  
    OP
       Jun 26, 2024
    @shm7 哈哈,确实工业化至少都是 4090 涡轮、A6000,A100 起,这些游戏老卡跑 SD 或者小参数 LLM 就是给手里有现场老卡的普通人的
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3060 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 79ms · UTC 12:58 · PVG 20:58 · LAX 05:58 · JFK 08:58
    ♥ Do have faith in what you're doing.