liudaqi
V2EX  ›  问与答

爬虫遇到脏数据,无法解码,有什么办法吗?

  •  
  •   liudaqi · Nov 7, 2017 · 2471 views
    This topic created in 3130 days ago, the information mentioned may be changed or developed.
    爬腾讯新闻的数据,频率稍微高一点,就收到脏数据了。我猜应该是被故意污染了,频率低的时候,收到的数据是正常可以解码的,稍微高一点,就无法解码了。可以随便试试:

    http://society.qq.com/a/20171106/002159.htm
    3 replies    2017-11-08 08:49:24 +08:00
    golmic
        1
    golmic  
       Nov 7, 2017
    详细点,什么数据无法解码?这样放个网址我也看不出什么来啊,详细点我帮你看看
    liudaqi
        2
    liudaqi  
    OP
       Nov 7, 2017
    @golmic 现在反复请求,又不出错了。奇怪,前面就是收到一堆数据,然后 gb2312 解不出来
    asuraa
        3
    asuraa  
       Nov 8, 2017 via iPhone
    根据页面解码啊 页面上 utf8 就用 utf8 gbk 就用 gbk
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3089 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 15:00 · PVG 23:00 · LAX 08:00 · JFK 11:00
    ♥ Do have faith in what you're doing.