我使用 requests 库进行 get
url1 = 'xxx'
url2 = 'xxxx'
r1=requests.get (url1 )
r2=requests.get (url2 )
print r1.text
print r2.text
结果竟然是相同的,这是怎么回事(两个 url 不同)
1
Septembers 2015-08-23 10:57:10 +08:00
1. 你确定是完全不同的 URL
2. 标题应当写做“ requests 的 bug ?” |
2
kslr 2015-08-23 10:57:27 +08:00
无法重现,先检查本地问题吧。
|
3
racal OP @kslr
@Septembers 代码如下 ./tbfinder.py parse.multiProcess ('侠盗小飞机') ./parse/parse.py def multiProcess (tbname ): database.getTiebaContent (tbname ) ./parse/database.py def getTiebaContent (tbname ) url = 'http://tieba.baidu.com/f/search/ures?ie=utf-8&kw=&qw=&rn=10&un=' + urllib.quote ( tbname ) + '&only_thread=&sm=1&sd=&ed=&pn=1' url2 = 'http://tieba.baidu.com/f/search/ures?ie=utf-8&kw=&qw=&rn=10&un=' + urllib.quote ( tbname ) + '&only_thread=&sm=1&sd=&ed=&pn=2' respone = requests.get (url ) respone1 = requests.get (url2 ) # title = re.findall (r'class="bluelink" target="_blank" >(.*?)</a>',respone.text ) print respone.text print respone1.text |
4
Damnever 2015-08-23 19:56:21 +08:00
我这种渣都知道 requests.get 有 params 参数,你这写的简直不忍直视……
|
6
mengzhuo 2015-08-24 08:54:54 +08:00 via iPhone
用其他调试工具看看是不是 cdn 或者防爬虫
|
7
xingzhi 2015-08-24 18:37:09 +08:00
建议调试一下,请求前把 url 打印出来,确认一下是否为不同的地址。
怀疑`pn`值没有赋值成功 |