市面上 GPU 服务器都好贵，机器学习跑 model 用顶级 CPU 服务器行吗？

You need to sign in to view this topic

This topic created in 3319 days ago, the information mentioned may be changed or developed.

在自己的服务器上用别人训练好的 caffemodel 来测试图片，每张图片处理平均耗时半分钟，实在太慢，当然我的服务器机器也太差，双核 ATOM 的 CPU+4G 内存，想换成 GPU 服务器，逛了逛 GPU 服务器好贵，目前就在想两种方法：

用核心数和线程数最好的 CPU 来跑 model，这样能把单张图片处理时间控制在 3 秒之内吗？
用自己的台式机 7*24 小时来跑，但台式机配置也很老了：E3-1230V3+8G+GTX770，但是个人有点强迫症，始终担心安全隐患（小时候自己研发的电气设备半夜把房子烧了，还好自己和家人一点事都没有），运行大型 3D 游戏比如使命召唤时，机箱基本就是一个火炉了，白天没人在家，始终担心安全问题。另外，自己要从国外网站抓图片来跑，电信出口带宽慢成蜗牛，也是我顾及的地方

求好心 V 友给点意见

Supplement 1 · Apr 28, 2017

刚刚测试了一下，vultr 的 20 美元：2cpu+4G+60G ssd，单张图片处理降低为 6 秒的样子，还是有点慢，然后用了个 caffe openblas 的 docker： https://hub.docker.com/r/travisjohnston/caffe-openblas/ 速度降为 5 秒每张，但是不知道这个 docker 里面的 caffe Makefike.config 文件在哪里配置，有好心 V 友能测试一下吗？

服务器

GPU

CPU

台式机

26 replies • 2017-07-27 11:00:10 +08:00

dream7758521

Apr 28, 2017 via Android

这个你开个高配置的云服务器试一下啊

mason961125

Apr 28, 2017

我想知道为什么你的服务器会用 Atom...

hiboshi

Apr 28, 2017

楼主开云主机的时候提前告诉我们是哪家。以便我们尽快转移，担心机房被烧了。

Reign

Apr 28, 2017

@mason961125 一个很普通的网站，不需要很高的配置

Reign

Apr 28, 2017

@hiboshi 机房有 UPS、空调还要监控等等，我就一台机器大夏天房子啊沙发旁边，哎，心理阴影

mason961125

Apr 28, 2017

@Reign 不是说要多高的配置，而是现在大部分云服务商用的都是 E5 了，Atom 的性能真的跟不上。

irainsoft

Apr 28, 2017

想到这个月月初 ikoula 特价机最底下一个 GTX 1080 的服务器....

c0878

Apr 28, 2017

直接 AWS 上面按小时租跑完任务释放掉其实没多少钱

caomaocao

Apr 28, 2017

为啥会是 ATOM....

Morriaty

Apr 28, 2017

关键你是要学习还是应用，学习的话，哪怕处理时间超过半小时都能接受啊

应用的，去找老板要钱

ivmm

Apr 28, 2017

GPU 也得专门用来计算的，而不是游戏显卡

denghongcai

Apr 28, 2017

这个担心有点诡异吧…… E3 1231 v3 大奶，E5 2683 v3 二奶二十四小时开机一年多了都，总不至于电源是垃圾吧

wangzhangup

Apr 28, 2017 via iPhone

@ivmm 我是深度学习从业者，非常负责任地告诉你，行业内大部分都是 gtx 系列的 gpu。

jarlyyn

Apr 28, 2017

换个风扇？

wangzhangup

Apr 28, 2017 via iPhone

1. 主要看你的 model 结构怎么样，比较 tiny 的网络 CPU 多线程速度也很快。但是网络复杂的话 cpu 还是吃不消的。

2. 这个问题我从侧面回答吧。目前行业内用的比较多的 gpu 是 gtx titan x 和 1080 以及 1080ti，价格分别是 9000+，4000+，5500+。同样 model 的情况下，同价位的 gpu 要比 cpu 的速度快 30 到 50 倍。所以 gpu 服务器是必须的，但是“私搭”还是云服务就看你具体情况了

ivmm

Apr 28, 2017

@wangzhangup
Azure 用的是：NVIDIA Tesla
AWS 用的是：NVIDIA Tesla
Aliyun 用的是：AMD FirePro
腾讯用的是：NVIDIA Tesla

精密计算用游戏 GPU 还是不太行的，用 AMD 的游戏显卡在初期临时代替还行，GTX 真的是专注打磨游戏的 GPU