V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  lgpqdwjh  ›  全部回复第 47 页 / 共 50 页
回复总数  983
1 ... 39  40  41  42  43  44  45  46  47  48 ... 50  
我们是实现一个 漏桶 来处理这样的事情的, 针对流量分析一下 ip 均匀请求量 自动调整漏桶大小, 如果爬的比较猛就直接 ban 掉 ip , 值得一提的是 这样的方法防不住有心的爬虫, 总的来讲我们是想挡住恶意的高频请求用户

至于完全的防爬, 我觉得是不可能懂, 人家真想要你的数据, 办法多的是。。
2017-01-11 12:00:59 +08:00
回复了 suyuanhxx 创建的主题 分享发现 在接口代码中加入调用追踪 Id 和接口返回时间
首先, 如果是只想要接口时间, nginx 的 log 是可以获取到的, 如果你需要接口 线程 id 方法名等, 这里需要业务监控等能力支持, 当然, 你仍然可以做简单点, 写个通用方法纪录即可。

至于 dao 也是一个道理, 要么看数据库 log (不建议), 要么程序上能支持

最后你提到可能一个请求 打了好几次, 目测应该是请求重试导致的, 值得一提的是 同一个 upstream 下有多个实例, 当请求失败了, 会尝试请求下一个, 这也是 ngx 的特性, 尽可能的保证 upstream 下有实例可用.

想减少对主体代码的侵入性? 你可以打出来 log , 让运维流 log , 然后分析出有用的结果
nginx 自己更新自己, 这个恐怕有点艰难, 可行性我还没有尝试过。

我这边是外建一个 register 负责处理注册请求, 有点像 confd , 但有损耗, 需要 kill -HUB,

不过我负责注册的请求时分布式的, 不影响业务, 目前也在想办法解决这样的问题。 关注。
2017-01-10 16:16:57 +08:00
回复了 jimwoo 创建的主题 问与答 2016 互联网技术人薪资报告出来了,你在平均线下吗?
倍感丢人!!!
2016-12-28 15:08:57 +08:00
回复了 bonfy 创建的主题 Python Python,我用这些库就够了!!!
@bonfy 好的, 谢谢
2016-12-28 12:00:51 +08:00
回复了 bonfy 创建的主题 Python Python,我用这些库就够了!!!
@bonfy 想学习下你怎么组织代码骨架的, 在使用 peewee 的时候, 不知道方不方便导出一个 demo 放 github 上 , 学习学习
2016-12-14 18:33:04 +08:00
回复了 int64ago 创建的主题 全球工单系统 「七牛」我是如何从粉转黑的 😑
七牛没毛病

针对目录可以直接刷掉目录的, 有接口有工具,
2016-12-13 11:38:34 +08:00
回复了 ibnf 创建的主题 程序员 推荐一款 ssh 工具 -- shuttle
密码可以用 sshpass... keyauth 写个 path 就行,, 我自己是撸了个小脚本来着,,, 能用就行
2016-12-08 18:53:09 +08:00
回复了 fsckzy 创建的主题 Python 想用 python 获取几十台服务器日志中指定关键词内容
ansible playbook or command module
2016-12-07 18:52:48 +08:00
回复了 wuxqing 创建的主题 Linux 服务器被入侵, ps 无法找到一个进程信息,会是什么情况?
一般来讲, ps top 都会被改, 帮朋友处理过好多次了- -
2016-12-06 17:15:59 +08:00
回复了 helloccav 创建的主题 Docker 为什么 yum remove docker* 不会删除 docker-engine?
interesting
2016-11-28 11:46:59 +08:00
回复了 t0p10 创建的主题 Python 开源个人博客系统 PyMark
Latest commit 2114a4a on 22 Jul 2015
2016-11-25 11:51:20 +08:00
回复了 lionkruce 创建的主题 程序员 提高编程实战能力的捷径(原创分享)
北大青鸟需要你.
2016-11-25 11:48:44 +08:00
回复了 v2xeuser 创建的主题 4G 已下单支付宝旗下蚂蚁宝卡,36 元 2G 全国流量 100 分钟通话
电信企业合作号, 每月 20G 流量 8000 分钟.... 只是电信各种没信号
2016-11-20 01:04:58 +08:00
回复了 kangsgo 创建的主题 Python 有办法用 python 实现监控某个群的聊天记录吗?
之前写过一个 QQ 群机器人, 仅收集并落地群消息, 后来还封装了一个 web 界面, 由于只收集消息, 基本上没出什么问题, 只不过被公司运营的同学诟病登录需要扫码太麻烦。。
2016-11-17 23:24:48 +08:00
回复了 yoke123 创建的主题 程序员 你们说 github 上的中文文档 对其他国家来说怎么看待?
点赞挨个喷你的人
代码大全和代码整洁之道都是好书,看过前者,尝试一下
2016-11-16 18:51:34 +08:00
回复了 lgpqdwjh 创建的主题 Python 用 Python 开发了一个微信企业号 API
@xxwar 不了解, 也没打算这这块的功能:)
1 ... 39  40  41  42  43  44  45  46  47  48 ... 50  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3604 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 37ms · UTC 04:42 · PVG 12:42 · LAX 20:42 · JFK 23:42
Developed with CodeLauncher
♥ Do have faith in what you're doing.