我将 response 写入本地 html 文件, 然后浏览器打开, 用 xpath helper 来验证自己的 xpath 字符串能否工作.
测试结果是正常工作(匹配)的.
但是将该字符串传递给 response.xpath 就无法正常匹配.
明明是同一个 response. 为什么会这样呢?
1
MarkToWin 2023-09-25 08:21:23 +08:00 via Android
使用 scrapy 获得得页面内容检查了吗?有可能被检测到了,页面内容就不一致了。或者有些内容是需要 js 加载的,没有加载。
|
2
ik 2023-09-25 09:18:18 +08:00 via iPhone
将 response 写入本地 html 文件
打开这个文件的时候离线打开看看 |
3
pepesii 2023-09-25 09:37:36 +08:00
你可以用 scrapy shell 来调试
可以在里头 view response 来查看是否获取到了正确的界面 |
4
luzihang 2023-09-25 09:49:32 +08:00
查一下 scrapy 怎么 debug ,在 debug 的 console 尝试就行了
|
5
vituralfuture 2023-09-25 10:45:43 +08:00 via Android 1
因为 scrapy 下载的 HTML 和你手动下载并保存的 HTML 不一样
|
6
chackchackGO OP @ik
@vituralfuture op 就是用的`file.write(response.body)`, 而不是在 browser 里 ctrl+s. 以 file 协议打开这个 response 的文件, 问题依旧. |
7
wapptm 2023-10-05 22:18:49 +08:00 via Android
这个很常见,有些内容是包裹在 js 里面的,这种肯定匹配不出来。可以将获取的源代码在 scrapy 里面打印出来看看,用正则一般可以匹配出来
|