V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
wuhx
V2EX  ›  程序员

Selenium 爬虫检测

  •  
  •   wuhx · Apr 25, 2017 · 6222 views
  •   You need to sign in to view this topic
    This topic created in 3294 days ago, the information mentioned may be changed or developed.

    https://defyun.oss-cn-shanghai.aliyuncs.com/areyouhuman.html

    在输入框输入 imhuman 后,点击提交。

    1. 如果检测为正常人类,显示成功图片。
    2. 如果检测到是用 Selenium 驱动的浏览器模拟访问( PhantomJS 或 Chrome , FF ),显示 Access Deny 图片。

    这是开发一个爬虫相关程序/t/356871时写的测试用例,单独拿出来大家一起玩玩。

    参考了 http://engineering.shapesecurity.com/2015/01/detecting-phantomjs-based-visitors.html 并加了一点 Chrome 浏览器检测。

    Supplement 1  ·  Apr 26, 2017
    这个网页不是让诸位来证明你是不是人类的
    正确的用法是:你用一个 Selenium 爬虫来爬这个网页,看能不能骗过识别,获得正确图片。
    15 replies    2017-04-27 08:31:12 +08:00
    nicevar
        1
    nicevar  
       Apr 25, 2017
    正常人类操作都不能显示图片。。。
    这是什么检测
    nicevar
        2
    nicevar  
       Apr 25, 2017
    这做的,只要不用鼠标操作,纯键盘切换你就识别不出来
    binux
        3
    binux  
       Apr 25, 2017
    猜测是各种 keyup, mouse 事件加 isTrusted
    然后我不用鼠标,用 tab 到输入框,果然就不是 human 了

    同意 1L ,「正常人类操作都不能显示图片。。。」算哪门子检测啊
    jiangzhuo
        4
    jiangzhuo  
       Apr 25, 2017
    果然我不是人类。。。。
    U7Q5tLAex2FI0o0g
        5
    U7Q5tLAex2FI0o0g  
       Apr 25, 2017
    为什么我连按钮都不能点 0 0
    U7Q5tLAex2FI0o0g
        6
    U7Q5tLAex2FI0o0g  
       Apr 25, 2017
    #3 好吧 是要输入 imhuman 没注意看以为随便字符
    mobyride
        7
    mobyride  
       Apr 25, 2017
    真棒,已经发现我是外星人的身份了。 🤦‍♂️
    gouchaoer
        8
    gouchaoer  
       Apr 25, 2017 via Android
    不考虑移动端啊,移动端不好检测。。。而且,我会告诉你定制 chromium 内核是高级爬虫工程师的杀手锏么
    wuhx
        9
    wuhx  
    OP
       Apr 25, 2017
    @binux 没错,这就这些小 trick
    另外这是一个测试用例,单纯破解练习用的 并不是拿来部署的
    @nicevar
    键盘事件确实没考虑,要增加也没问题,但也还是能绕过去,理论上 Selenium 是没有办法完美检测的
    wuhx
        10
    wuhx  
    OP
       Apr 25, 2017
    @gouchaoer 是的,移动端没考虑
    chromium 还有 headless 模式,简直完美,主要问题是资源占用太高
    zzNucker
        11
    zzNucker  
       Apr 25, 2017
    Selenium 应该有特征的。
    wuhx
        12
    wuhx  
    OP
       Apr 25, 2017
    @zzNucker
    只能从用户操作的行为模式中找特征
    Selenium 使用的 Webdriver 协议本身是无法区分到底是用户还是代码驱动浏览器的。
    kacong
        13
    kacong  
       Apr 26, 2017
    只要一路 tab 下去,就不是人。哈哈。
    jinyue524
        14
    jinyue524  
       Apr 26, 2017 via iPhone
    大量收氪星石...
    icedx
        15
    icedx  
       Apr 27, 2017 via Android
    终于找到身体被改造的证据了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2331 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 61ms · UTC 01:38 · PVG 09:38 · LAX 18:38 · JFK 21:38
    ♥ Do have faith in what you're doing.