有一个网站的数据开放 api 但限 ip ,一段时间内只能调用 50 次,超过之后随机给出乱码。 我用 requests 裸写了取接口的代码,但是 ip 池搞不定。 试过了, http://www.kuaidaili.com/ http://www.xicidaili.com/ http://www.daxiangdaili.com/ 直接随机 proxies ,但是都是即使是标注着 < 1s 响应的代理,实际上往往也是挂掉的多,能用的少,速度还可以的少之又少。
在控制成本(几十块钱)的条件下,有没有给力一点的代理推荐或者更好的解决方案。实际数据量也不过 5k 条,不限速大概也就是分分钟的事。
求推荐。
1
shiny 2016-11-20 01:18:51 +08:00
我以前这样写:维持一个 ip 池,少于一定数量就去代理网站取 ip ,同时验证一遍。验证不过再取一个新的。效果还可以。收费版可能效果会好点,像你这样 5k ,也用不了几块钱。
|
4
crab 2016-11-20 06:18:46 +08:00
代理失效快,大部分速度还慢。直接租个按日的 vps , adsl 动态拨号。
|
5
jyf 2016-11-20 10:24:01 +08:00
我这几天也是看到 V2EX 有个人的代码 挖出 xiji 的代理 在折腾 其实你可以考虑平时离线跑下测试那些代理的脚本啊 把能用的留下备用不就行了
|