V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
allAboutDbmss
V2EX  ›  问与答

[体系结构问题] 如何看待单机内存上限越来越大?

  •  
  •   allAboutDbmss · 2023-09-17 20:39:35 +08:00 · 1012 次点击
    这是一个创建于 434 天前的主题,其中的信息可能已经有所发展或是发生改变。

    单条三星 DDR5 DIMM 年底预期可以到到 1tb: https://news.mydrivers.com/1/932/932985.htm
    那么单个顶级服务器 CPU 可以支持 12 DIMM,那么就是单机 12tb 内存
    想问一下大家怎么看待这个对未来高性能系统的影响?

    这其实我理解是机遇和调整并存:

    • 机遇:

      • 首先就是内存更大 数据结构甚至一些依赖软件没必要用到 SSD,全部跑在内存上即可。
      • 对于未来的 RDMA+Memory Disaggregation: 这种巨大内存的单机可以提供给其他机器内存,就像现在云上面计算和存储的解耦,未来计算+内存+存储可能都可以解耦来做伸缩
    • 挑战:

      • 在多核 CPU 下,这种大内存其实是一把双刃剑。相当于每个核分到的内存带宽并没有升高,这某种程度加重了冯诺依曼的 memory-bound 的问题
      • 最后一点是我不太了解的 因为未来很多因素会共同作用:CXL, PCIE, 甚至纯内计算。共同作用下,这个问题变的很复杂
    10 条回复    2023-09-19 15:23:24 +08:00
    liprais
        1
    liprais  
       2023-09-17 20:40:54 +08:00
    你猜 tidb 为啥要用 128g 的节点跑 tpch 100g
    allAboutDbmss
        2
    allAboutDbmss  
    OP
       2023-09-17 20:49:56 +08:00
    @liprais 可以说是为啥吗? 128 生产里面算多吗
    msg7086
        3
    msg7086  
       2023-09-17 21:26:24 +08:00
    消费端和生产端是同步升级的。有更大的内存就会有消耗更大内存的应用。有更快的显卡就有能吃更多显卡的游戏或者软件。十年前最大内存在 256/512/768GB 这个级别上,那时候感觉内存那么大根本花不完,现在却是已经在往 10TB+数量级发展了。
    allAboutDbmss
        4
    allAboutDbmss  
    OP
       2023-09-17 21:44:42 +08:00
    @msg7086 我觉得服务器上跑的软件依然不会很大变化: 首先就是数据库后端。我其实想问的不再是普通个人电脑+个人需求
    agagega
        5
    agagega  
       2023-09-17 23:38:14 +08:00
    CPU 的缓存有机会也变大吗?
    allAboutDbmss
        6
    allAboutDbmss  
    OP
       2023-09-18 00:37:06 +08:00
    @agagega L3 已经超过 1G 了 因为核太多了: https://www.bilibili.com/video/BV1yh4y137Qn/
    whileFalse
        7
    whileFalse  
       2023-09-18 02:44:52 +08:00 via Android
    计算和内存解耦不了,延迟跟不上。再说内存根本不值钱,想要多插几条不就完了
    allAboutDbmss
        8
    allAboutDbmss  
    OP
       2023-09-18 04:19:57 +08:00
    @whileFalse 有 RDMA
    whileFalse
        9
    whileFalse  
       2023-09-19 11:24:58 +08:00 via Android
    @allAboutDbmss cpu 厂商为了降低延迟做了那么多努力被你一条网线全毁了
    allAboutDbmss
        10
    allAboutDbmss  
    OP
       2023-09-19 15:23:24 +08:00 via Android
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5623 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 07:40 · PVG 15:40 · LAX 23:40 · JFK 02:40
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.