V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
kvenux
V2EX  ›  NVIDIA

有对 GPU 熟悉的朋友么,求助 NVIDIA V100 vs RTX8000

  •  
  •   kvenux · Feb 26, 2020 · 8152 views
    This topic created in 2259 days ago, the information mentioned may be changed or developed.
    公司在采购硬件,这俩 GPU 选哪个

    RTX8000 内存更大( 48G ),更便宜(便宜 40%),但网上找到的资料比较少,有 V 友可以指条明路么
    Supplement 1  ·  Feb 26, 2020
    V100 基本参数:

    5120 cuda cores,640 tensor cores,tensor performance 112 TFLOPS

    RTX8000 基本参数:

    4608 cuda cores,576 tensor cores,72 RT cores,tensor performance 130.5 TFLOPS

    Training Performance on ResNET-50:

    1xV100 XLA+FP16: 1354.43 images/sec

    1xV100 FP16: 888.63 images/sec

    1xRTX8000 XLA+FP16: 1016.74 images/sec

    1x RTX8000 FP16: 628.75 images/sec

    FYI
    19 replies    2020-02-27 09:53:21 +08:00
    psychoo
        1
    psychoo  
       Feb 26, 2020
    df4VW
        2
    df4VW  
       Feb 26, 2020
    这俩完全不一样吧,大数据机器学习领域的话无脑 v100
    kvenux
        3
    kvenux  
    OP
       Feb 26, 2020
    @psychoo 光看规格比不出来啊
    最好有类似这样的 https://developer.nvidia.com/deep-learning-performance-training-inference
    kvenux
        4
    kvenux  
    OP
       Feb 26, 2020
    @df4VW 跑 deep learning 的 RTX8000 貌似新出的,benchmark 都搜不到多少
    nightwitch
        5
    nightwitch  
       Feb 26, 2020
    你说的 v100 是啥 tesla v100? quadro v100?
    公司采购是拿来干什么? 拿来搭云服务的话 NVIDIA 的意思是只能用 tesla。 公司自己内部做开发平台的话.
    可以参考
    https://blog.exxactcorp.com/whats-the-best-gpu-for-deep-learning-rtx-2080-ti-vs-titan-rtx-vs-rtx-8000-vs-rtx-6000/
    feast
        6
    feast  
       Feb 26, 2020 via Android
    tesla 卖的是 sdk 的钱,你公司估计也不会用,自己写买 rtx 吧
    kvenux
        7
    kvenux  
    OP
       Feb 26, 2020
    @nightwitch nice link!
    xau
        8
    xau  
       Feb 26, 2020 via iPhone
    不能单纯看硬件吧 你都没说准备怎么拿来用
    kvenux
        9
    kvenux  
    OP
       Feb 26, 2020
    @xau 必然是 deep learning 啊
    这年头买得起 V100 的还能干嘛
    terencelau
        10
    terencelau  
       Feb 26, 2020   ❤️ 1
    有高精度需求就上 Tesla,不然 RTX 更划算
    ZRS
        11
    ZRS  
       Feb 26, 2020   ❤️ 1
    有双精度需求 V100 否则 RTX8000
    feast
        12
    feast  
       Feb 26, 2020 via Android
    从供应角度来讲非完整版的 die 的卡要的人没有完整版 die 的多,溢价更低,实际上性能差距不大,rtx 还支持光线追踪
    iasuna
        13
    iasuna  
       Feb 26, 2020 via iPhone
    deep learning 我建议你买 v100 除非代码完全手写

    这么研究机构 就没见过不用 n 卡的 你买了个 amd 到时候别人的代码出 bug 了 太麻烦
    Xs0ul
        14
    Xs0ul  
       Feb 26, 2020   ❤️ 1
    RTX8000 感觉上是传统上说的"专业卡", 和游戏显卡相对, 感觉是给渲染什么用的

    V100 就是 deep learning 用的. 比如你复现别人论文的模型, 别人论文里提到 V100 下速度是多少,你就很容易比对. 另外出了莫名其妙的 bug, 也更容易搜到同样的问题和解决方案.

    和这些比起来速度是小事
    lonelygo
        15
    lonelygo  
       Feb 27, 2020   ❤️ 1
    看场景,DL 还是纯粹的图像处理,否则没法比,别人也没法给你准确建议。
    如果是 DL 使用,还要看是用来训练+推理,还是仅仅做推理。
    如果是要做推理,还要考虑双精度、单精度、半精度的推理问题,那还要增加一个考虑维度。

    不过能上来就看 V100 这种大卡,估计不缺钱,那就无脑买贵的呗。
    ScjMitsui
        16
    ScjMitsui  
       Feb 27, 2020
    @iasuna #13 楼主也没说买 amd 的卡啊
    iasuna
        17
    iasuna  
       Feb 27, 2020
    @ScjMitsui RTX8000 原来是 Quadro 的。。。下意识以为是 amd sorry
    gladuo
        18
    gladuo  
       Feb 27, 2020   ❤️ 1
    @kvenux 参考这个 https://blog.exxactcorp.com/whats-the-best-gpu-for-deep-learning-rtx-2080-ti-vs-titan-rtx-vs-rtx-8000-vs-rtx-6000/
    简略看了一下,速度差距没那么大,主要还是 显存+钱 决定
    kvenux
        19
    kvenux  
    OP
       Feb 27, 2020
    @gladuo 嗯 V100 大概快 30%
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   779 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 47ms · UTC 22:05 · PVG 06:05 · LAX 15:05 · JFK 18:05
    ♥ Do have faith in what you're doing.