也就开了 32 个线程这样，爬一会就疯狂报错 然后把并发改为 10 之后就可以正常爬了
requests.exceptions.SSLError: EOF occurred in violation of protocol (_ssl.c:645)
还有个问题：爬虫插入 mysql 的策略是什么？ 一定数量批量插 还是一条一条插 感觉一条条插在高并发的情况下十分不稳定
推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
This topic created in 3020 days ago, the information mentioned may be changed or developed.
 |
xxxyAug 3, 2018
1
貌似是 openssl 的限制？
|
 |
lhy360121Aug 3, 2018
2
批量插
|
 |
lllllllllllllllAug 3, 2018
3
pip install 'requests[security]'
|
 |
nu11001Aug 3, 2018
4
试试异步 aiohttp
|
 |
5
@xxxy 后来我发现 我开并发为 10 的情况下也会报错
|
|
6
@lllllllllllllll 我试试
|
 |
awahAug 3, 2018 via Android
7
@SpiderXiantang 你好，我也遇到这个问题。请问解决了吗？
|
|
8
@luguhu 安装 requets[security]
|
Select Language