V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
laoyuan
V2EX  ›  程序员

在国外放的爬虫撞墙也挺郁闷的。。。

  •  
  •   laoyuan ·
    laoyuan · 2014-11-27 17:51:32 +08:00 · 3754 次点击
    这是一个创建于 3648 天前的主题,其中的信息可能已经有所发展或是发生改变。
    爬amazon.cn的定向爬虫,这几天就感觉不大对,查了下一看爬到的都是0字节,手工调试发现原来是撞墙了,就是这个亚马逊的页面:

    http://www.amazon.cn/JavaScript%E5%8A%A8%E6%80%81%E7%BD%91%E9%A1%B5%E7%BB%8F%E5%85%B8%E5%AE%9E%E4%BE%8B%E6%95%99%E7%A8%8B-%E9%99%88%E4%BA%89%E8%88%AA/dp/B00114B83W

    感觉没什么敏感词啊,陈争航这个人名除了写这本书什么也没干,是良民啊~
    19 条回复    2016-08-19 15:47:24 +08:00
    mornlight
        1
    mornlight  
       2014-11-27 17:57:29 +08:00
    你可能得先排除一下是不是你的爬虫被amazon屏蔽了
    Livid
        2
    Livid  
    MOD
       2014-11-27 17:58:10 +08:00
    是的,这个页面确实在国外点开是 connection reset
    efi
        3
    efi  
       2014-11-27 17:59:51 +08:00
    wtf
    66beta
        4
    66beta  
       2014-11-27 18:00:37 +08:00
    难道是因为评论里有“卓越亚马逊”,哈哈哈
    wesley
        5
    wesley  
       2014-11-27 18:01:53 +08:00   ❤️ 1
    “动态网”才是真真的G点
    efi
        6
    efi  
       2014-11-27 18:02:15 +08:00   ❤️ 1
    你URL里面有一个关键词,你可以自己测试。我刚发出来被删了,这不是深度检测的关键词。不能发的能不能把规矩说明,不要偷偷删。
    laoyuan
        7
    laoyuan  
    OP
       2014-11-27 18:04:02 +08:00   ❤️ 1
    @Livid
    去掉中间的slug就没问题了 http://www.amazon.cn/dp/B00114B83W
    所以不是页面内容触发的,就是url触发,而中间那段decode过来完全不知道痛点在哪里:JavaScript动态网页经典实例教程-陈争航
    halczy
        8
    halczy  
       2014-11-27 18:04:25 +08:00
    这个简介是谁写的...
    JaVascript JavaScljpt JavaScriDt
    laoyuan
        9
    laoyuan  
    OP
       2014-11-27 18:04:59 +08:00
    @wesley 死了个明白终于
    laoyuan
        10
    laoyuan  
    OP
       2014-11-27 18:06:41 +08:00
    @halczy 这必须是OCR软件干的啊
    Livid
        11
    Livid  
    MOD
       2014-11-27 18:07:02 +08:00
    @efi 是的。我删除了你的那条。但是在楼主的 notifications 中还是可以看到的。
    ck65
        12
    ck65  
       2014-11-27 18:07:21 +08:00
    @laoyuan 云力态网
    9hills
        13
    9hills  
       2014-11-27 18:07:22 +08:00
    laoyuan
        14
    laoyuan  
    OP
       2014-11-27 18:11:03 +08:00
    说实话弄书最容易碰到敏感词了,什么时候阿里云上SSD我就把网站搬回国内了
    laoyuan
        15
    laoyuan  
    OP
       2014-11-27 18:21:55 +08:00
    唉,标题有这个词的亚马逊图书条目有267个。。。
    laoyuan
        16
    laoyuan  
    OP
       2014-12-04 11:10:58 +08:00
    @efi @ck65 @wesley

    高中数学联赛备考手册 这个也撞墙,G点在何处?
    wesley
        17
    wesley  
       2014-12-04 11:42:45 +08:00   ❤️ 1
    @laoyuan 学联
    laoyuan
        18
    laoyuan  
    OP
       2015-12-22 10:39:55 +08:00
    又发现一个新的 url 触发:看中国
    laoyuan
        19
    laoyuan  
    OP
       2016-08-19 15:47:24 +08:00
    亚马逊中国全站 https 了,这个问题貌似不存在了
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   914 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 21:57 · PVG 05:57 · LAX 13:57 · JFK 16:57
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.