推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
如何基于 Celery 做爬虫但遇到些坑，如重复执行了一个任务、 db 对象内数据有错误
Feiox · feiox · 2015-04-28 21:44:41 +08:00 · 3121 次点击这是一个创建于 3500 天前的主题，其中的信息可能已经有所发展或是发生改变。
因为要爬特定领域内的一些站点。每次存储过程需要反复和数据库进行信息增删。
现在我遇到三个问题：
- 出现重复执行的任务
- db 对象里有错误数据（而且都是固定的一个值）
- 明明不改有重复的数据却提示我主键重复，而且每次都是那固定几个。但去数据库中找，发现这些数据又已经存在
运行模式：celery -A celeryd worker -P eventlet -c 100 -l info
而且，并放量越多，错误越多。
broker 使用的是 Redis，数据库用的是 MariaDB。
 |
1
easynoder 2015-04-29 08:14:08 +08:00
|
 |
2
ledzep2 2015-04-29 09:01:05 +08:00
如果有用Late Ack, 那任务没正常返回, 可能会有重复执行.
|
Select Language