我使用 scrapy-redis 开发了一个分布式爬虫，并分别部署在 4 个 docker 中，抓取程序中的 pipeline 负责连接 hadoop 并将数据追加到 hadoop 中，但因为是分布式的存在，必定会造成同一时刻有多个 client 操作同一个 file，就违反了 hadoop 的 lease 机制，从而造成数据入库失败，大家有什么办法解决吗
推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
This topic created in 2349 days ago, the information mentioned may be changed or developed.
 |
1
vveexx Dec 24, 2019  1
和楼主的场景类似，我们走了 kafka，多生产者，单个消费者
|
 |
2
hdbzsgm Dec 24, 2019 1
简单场景 随便用个单点 redis 做锁喽
|
 |
4
F281M6Dh8DXpD1g2 Dec 24, 2019
没这么复杂，每个爬虫自己写自己的文件最后合起来处理就行了
|
 |
6
Leiothrix Dec 24, 2019
用 redis 实现一个简单的分布式进程锁可解，用 lua 脚本保证操作原子性
|
Select Language