PeiXyJ
V2EX  ›  问与答

问问各位,你觉得多久时间像现在 GPT6 这样能力的模型能落地消费者本地计算

  •  
  •   PeiXyJ · 1 day ago · 945 views

    我觉得未来设想就是花个 5W 左右, 然后在家里放一个类似 Nas 的服务器然后进行使用.

    12 replies    2026-09-24 08:22:44 +08:00
    Meteora626
        1
    Meteora626  
       1 day ago
    感觉没个十年够呛,因为现阶段还是参数量=知识量,训练=智商,智商好提高,但是知识扩充还是很难。就像 qwen 这几次的新模型,明显感觉 agent 工具调用,写代码强了不少,智商很高,但是你问他一些比较广的 纯知识的东西,反而会犯错。
    Dragonish3600
        2
    Dragonish3600  
       1 day ago
    模型越来越便宜,API 也会越来越便宜,为什么有 API 不用,要花几万块钱再家里部署呢
    o0
        3
    o0  
       1 day ago
    这玩意儿应该跟小孩上培训班一样,永无止境,永远有更好的模型或者更好形态的产品,既然卷,那就全部卷死
    winnerczwx
        4
    winnerczwx  
       1 day ago
    要落地本地计算, 只可能是垂直领域的模型了, 专注做一件事
    413420
        5
    413420  
       1 day ago via iPhone
    和买房一个模式,租是最便宜的,也是最灵活的
    chibop
        6
    chibop  
       1 day ago
    家用 AI 服务器或电脑必然是未来趋势,不过得先等硬件满足云端需求后才有可能,我觉得 5 年内应该能看到吧
    gy0624ww
        7
    gy0624ww  
       1 day ago
    @chibop 告诉我咋弄的,要不然举报你
    gy0624ww
        8
    gy0624ww  
       1 day ago
    PeiXyJ
        9
    PeiXyJ  
    OP
       1 day ago
    @Dragonish3600 我的意思是,类似于消费产品,比如我们本地的手机这样.
    Ethkuil
        10
    Ethkuil  
       1 day ago via Android
    @o0 不一定,够用就行了
    flyico
        11
    flyico  
       1 day ago
    没有意义,因为等 GPT6 能本地部署了你还是看不上它,因为一定有比它更好的模型本地部署不了
    sillydaddy
        12
    sillydaddy  
       16h 25m ago
    过去 3 年,平均每 3 个月,同等智能成本降低 50%。一年约降 13 倍。

    https://aihot.news/items/cmud77i8r04yerorajpj343j2
    - Epoch AI 发布报告,估算过去三年内达到同等 AI 性能的成本平均每季度下降约 47%,即每年约 13 倍,并认为这一速度可能自 2021 年 11 月商业 LLM 推理开始以来持续至今。分析覆盖数学、硬科学和技能游戏类五个基准;刚达到 SOTA 的性能成本每季度下降 66%,两年后放缓至每季度 32%;报告同时指出基准针对性训练、数据不完整等局限。数据与代码在 GitHub 上公开。

    https://aihot.news/items/cmud711u104rurora0i4oiyc9
    - Epoch AI 发布对比分析称,在同一性能水平下,AI 成本自 2023 年以来每季度下降约 47%,是历史上降价最快的变革性技术。这一速度约为 DNA 测序的 4 倍、算力的 6 倍、锂电池的 18 倍,以及电力(截至 1973 年)的 54 倍。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1385 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 40ms · UTC 16:48 · PVG 00:48 · LAX 09:48 · JFK 12:48
    ♥ Do have faith in what you're doing.