V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
pr2b
V2EX  ›  程序员

求一款 Mac 或 Win 上,抓取 html 爬虫 down 到本地的软件

  •  
  •   pr2b · Apr 27, 2016 via iPad · 4541 views
    This topic created in 3662 days ago, the information mentioned may be changed or developed.

    看了大多数爬虫,都是 java 的。

    现在需求时,希望能在本地运行的。最好是 Mac ,不行就 win ,再不行就 php 吧

    直接把 h   tml 全部 down 下来就行。自动按照正则去爬

    14 replies    2016-04-27 19:19:33 +08:00
    13348859836
        1
    13348859836  
       Apr 27, 2016
    python 的爬虫框架多 随便找一个吧
    zhouxuchen
        2
    zhouxuchen  
       Apr 27, 2016
    life is short, you need pyquery
    xiamx
        3
    xiamx  
       Apr 27, 2016
    html is context free grammar btw
    jnduan
        4
    jnduan  
       Apr 27, 2016
    java 的就不能本地运行了?

    那你用 Offline Explorer 吧
    sadhen
        5
    sadhen  
       Apr 27, 2016
    不太理解楼主的需求

    貌似是把 HTML 全部下载到本地后,再在没有网络环境的情况下抓取信息 是么?

    还是普通的爬虫框架?
    pr2b
        6
    pr2b  
    OP
       Apr 27, 2016 via iPad
    @sadhen 是按照正则顺序爬,然后把 html 都 down 到本地。

    正在研究火车头🚄 ,就是保存 html 的一步 还没有成功

    @jnduan 的浏览器,没找到在哪里写网址规则。
    cxbig
        7
    cxbig  
       Apr 27, 2016
    php/ruby/python 随便哪个语言都可以,手写一个百来行。
    SCaffrey
        8
    SCaffrey  
       Apr 27, 2016
    nodejs/python
    Tink
        9
    Tink  
    PRO
       Apr 27, 2016
    这个貌似叫离线浏览器?
    wmhx
        10
    wmhx  
       Apr 27, 2016
    wget 啊, 一丢丢的
    qq839994901
        11
    qq839994901  
       Apr 27, 2016
    scrapy
    Ouyangan
        12
    Ouyangan  
       Apr 27, 2016
    java 不能本地么......
    break
        13
    break  
       Apr 27, 2016 via iPhone
    都是 html 的话, wget 就可以了, wget 的镜像复制命令
    imn1
        14
    imn1  
       Apr 27, 2016
    爬虫很多,能用正则的不多
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3332 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 58ms · UTC 13:03 · PVG 21:03 · LAX 06:03 · JFK 09:03
    ♥ Do have faith in what you're doing.