爬取一个网站
1,会出现一个 5 位的 数字+字母的 干扰线验证码,请问哪里有可以学习这种识别验证码的文章或者源码。(已经百度,但是都是用 tesseract 最低级的验证码破解。我试了,识别不了)。
2,这个网站需要增量爬取。静态页面 ,页数 3w+ 怎么才能有快捷的方法实现增量呢(想到:重新爬一遍,然后和数据库对比)
3,定时爬取,(每天晚上 11 点)
1
soli 2018-04-15 09:24:58 +08:00
验证码简单的话,可以试试机器学习搞。图省事儿的话,用打码平台。
|
2
winsky 2018-04-15 10:00:16 +08:00 1
增量:每次从最新的开始爬,校验获取的数据是不是已经有了,如果已经存在(或者已经有的数据超过一定条数),就直接结束
|
4
Rufeer 2018-04-15 10:15:16 +08:00 via iPhone
通常网站用的第三方的验证码方案,你可以看看源码里面的验证码怎么出来的,然后用这个可以生成足够的图片,参考 mnist 手写识别进行机器学习
|
5
sheep3 2018-04-15 10:23:08 +08:00
1. 验证码接打码平台
2. 你这个数据量不就是判断有没有,没有就抓去插入吗 3. corntab 了解一下 |
6
xuxueli 2018-04-15 10:32:56 +08:00 via Android
|
7
lihongming 2018-04-15 10:49:27 +08:00 via Android
简单的验证码用开源识别算法搞定,复杂的扔给扔给打码兔之类的平台搞定。能用钱解决的问题都不要花费时间,除非你想做研究而不是用于生产
|
8
lvsemi1 2018-04-15 12:51:13 +08:00 via Android
我的做法,做成交互式的,验证码识别丢给实习生
|
9
alvin666 2018-04-15 13:46:49 +08:00 via Android
5 楼正解,另外如果验证码不是生成的可以全爬下来做个数据库,有新的验证码直接在数据库里面找( 12306 的验证码识别就是这么干的)
|
10
cyy564 2018-04-15 14:12:12 +08:00
图像处理之后再用 tesseract 识别
|
11
golmic 2018-04-15 17:22:27 +08:00 via Android
验证码识别:
https://www.zhihu.com/answer/120141781 如果需要可以联系我,方式见微信公众号 pydatame。 增量抓取可以采用数据库对比或者本地记录爬取过的 url 等方式实现。 |
12
jeffreychiu95 2018-04-15 23:55:01 +08:00 1
1. 搜索引擎、github 上面找一下是否已有关于目标网站验证码的代码实现。如果没有,可以看看有没有别的网站用同类型的验证码,再搜索。如果有研究的兴趣,学习图像处理和机器学习的相关知识。接入打码平台很便宜,同时你可以获取到标注好的数据集。之后自己训练模型去识别。
2. 如果是像微博、知乎用户动态等 feed 流的,有明显的先后顺序的,可以考虑每次取出已有的最新的 id(或者其它标识),开始爬取,当爬到这个 id 时就停止。如果想获取像 v 站新发的帖子,新发布的网页这种的。数据量小的话,可以将已有的 url/id 读取到内存,看是否已经有。数据量大的话,Redis 了解一下~ 3. corntab |