studyaa
V2EX  ›  问与答

跑爬虫程序, 每天都要跑几千万条数据, 公司想要租个服务器,V 友们可有什么推荐 ?

  •  
  •   studyaa · Aug 27, 2018 · 4828 views
    This topic created in 2995 days ago, the information mentioned may be changed or developed.

    爬虫需求后期会很大,速度要快

    9 replies  •  2018-08-28 14:51:09 +08:00
    summerwar
    summerwar
    Aug 27, 2018
    1
    信息太少,没法推荐
    ToT
    ToT
    Aug 27, 2018
    2
    能不能提供一些基本数字估计。当你写出来的时候,可能也就知道答案了。

    参看 http://highscalability.com/blog/2011/1/26/google-pro-tip-use-back-of-the-envelope-calculations-to-choo.html
    hundan
    hundan
    Aug 28, 2018 via Android
    3
    借楼问一下,如果要做扫全球 ip 这种大流量出口的工作,有没有好的推荐,不会被封不会被警告的,出口带宽大的
    msg7086
    msg7086
    Aug 28, 2018
    4
    需求后期会很大 —— 多大?
    速度要快 —— 多快?
    钱有多少?
    流量要用多少?
    IP 要多少个?要频繁换吗?
    要做分布式节点吗?
    国内外都要吗?

    @hundan 最好不要寄希望于单个节点。
    studyaa
    studyaa
    OP
    Aug 28, 2018
    5
    @msg7086
    五六个小时要跑几千万数据,
    ip 肯定要频繁换,多少个的话我也不太清楚怎么算,一个首页面一个?几十万个?
    分布式不太懂
    国外的不需要
    价钱的话公司没说,就说做下来所需要的配置..

    还有感谢回答!
    studyaa
    studyaa
    OP
    Aug 28, 2018
    6
    @summerwar 每天需要大概五六个小时跑几千万数据, 会用到 selenium
    服务器的配置也跟所需代理 ip 有关吗?
    对服务器不太懂
    为什么都需要在服务器上跑爬虫

    感谢之前的回答!
    studyaa
    studyaa
    OP
    Aug 28, 2018
    7
    @ToT 嗯嗯! 我看看
    msg7086
    msg7086
    Aug 28, 2018
    8
    @studyaa 嗯,需求超出了我的能力范围,没法回答你了。
    tennc
    tennc
    Aug 28, 2018
    9
    正规的服务器跑爬虫都会被封吧,要找就找那些 black 服务器
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1201 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 16:00 · PVG 00:00 · LAX 08:00 · JFK 11:00
    ♥ Do have faith in what you're doing.