liudaqi
V2EX  ›  问与答

爬虫遇到脏数据,无法解码,有什么办法吗?

  •  
  •   liudaqi · Nov 7, 2017 · 2446 views
    This topic created in 3107 days ago, the information mentioned may be changed or developed.
    爬腾讯新闻的数据,频率稍微高一点,就收到脏数据了。我猜应该是被故意污染了,频率低的时候,收到的数据是正常可以解码的,稍微高一点,就无法解码了。可以随便试试:

    http://society.qq.com/a/20171106/002159.htm
    3 replies    2017-11-08 08:49:24 +08:00
    golmic
        1
    golmic  
       Nov 7, 2017
    详细点,什么数据无法解码?这样放个网址我也看不出什么来啊,详细点我帮你看看
    liudaqi
        2
    liudaqi  
    OP
       Nov 7, 2017
    @golmic 现在反复请求,又不出错了。奇怪,前面就是收到一堆数据,然后 gb2312 解不出来
    asuraa
        3
    asuraa  
       Nov 8, 2017 via iPhone
    根据页面解码啊 页面上 utf8 就用 utf8 gbk 就用 gbk
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5689 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 62ms · UTC 07:57 · PVG 15:57 · LAX 00:57 · JFK 03:57
    ♥ Do have faith in what you're doing.