• 请不要在回答技术问题时复制粘贴 AI 生成的内容
whereabouts
V2EX  ›  程序员

Python 持续每秒对 API 服务器发送 2000 个 HTTP 请求的比较好的解决方案?

  •  
  •   whereabouts · Sep 29, 2018 · 8360 views
    This topic created in 2960 days ago, the information mentioned may be changed or developed.
    HTTP 的 Session 没什么要求。目标是一个 API 服务器,所以只有 1 个 IP。
    或者还是 Nodejs/Golang 实现起来更合适一点?
    22 replies  •  2019-08-24 21:30:04 +08:00
    zhengyongtao
    zhengyongtao
    Sep 29, 2018❤️1
    1
    用 tornado
    lniwn
    lniwn
    Sep 29, 2018 via Android❤️1
    2
    aiohttp clientsession, per_host_limit=2000,对于 1 秒这个问题,如果要求不是很严格,ayncio.sleep 即可。
    iBaoger
    iBaoger
    Sep 29, 2018 via Android
    3
    apache ab 不好用吗
    whereabouts
    whereabouts
    OP
    Sep 29, 2018
    4
    忘了说了,需求是可自定义 HTTP 请求的 Header、Cookie、Url 参数。 不过一般都能做到吧,主要是考虑下用哪个方案合适一点。
    owenliang
    owenliang
    Sep 29, 2018
    5
    你会啥用啥呗。
    Akikiki
    Akikiki
    Sep 29, 2018
    6
    Locust
    Qzier
    Qzier
    Sep 29, 2018 via iPad
    7
    有现成的工具为什么不用? nodejs 写的 loadtest,c 语言写的 wrk。
    Kilerd
    Kilerd
    Sep 29, 2018❤️1
    8
    2000qps 先考虑一下数据库的优化吧,python 的极大框架都能撑起这个 qps。
    实在不行就用 docker,横向扩展做负载均衡
    uwh0am1
    uwh0am1
    Sep 29, 2018
    9
    aio
    crawl3r
    crawl3r
    Sep 29, 2018
    10
    requests + gevent + 多进程
    ltoddy
    ltoddy
    Sep 29, 2018
    11
    asyncio + urlopen + concurrent.futures.ThreadExecutorPool
    EINDEX
    EINDEX
    Sep 29, 2018
    12
    aiohttp
    my3157
    my3157
    Sep 29, 2018
    13
    是压测么? 试试 tsung
    gimp
    gimp
    Sep 29, 2018
    14
    试试 wrk 呢
    qq976739120
    qq976739120
    Sep 29, 2018
    15
    ab
    yc8332
    yc8332
    Sep 29, 2018
    16
    go 吧。2000 个 goroutine 又简单。
    janxin
    janxin
    Sep 29, 2018
    17
    https://locust.io/ 现成的框架提交个任务不就行了
    Leigg
    Leigg
    Sep 29, 2018 via iPhone
    18
    go 一下很轻松
    exiaohao
    exiaohao
    Sep 29, 2018
    19
    自己撸代码就 requests + gevent, 闲得蛋疼用 celery 也可以啊
    楼上说的 Locust 也可以了解一下~
    zhzer
    zhzer
    Sep 29, 2018 via Android
    20
    http 测试用 go 写很简单
    luozic
    luozic
    Sep 29, 2018 via iPhone
    21
    python 没你想的那么慢。 纯的 python,合理的代码搞这个无压力。并且 python 有部分 http 请求库底层是被用重写过的,担心个毛。
    bantianys
    bantianys
    Aug 24, 2019
    22
    Locust 是用 requests 库,加上只能用单个 CPU 核心。性能会比 wrk 差不少。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4646 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 54ms · UTC 01:15 · PVG 09:15 · LAX 17:15 · JFK 20:15
    ♥ Do have faith in what you're doing.