• 请不要在回答技术问题时复制粘贴 AI 生成的内容
whereabouts
V2EX  ›  程序员

Python 持续每秒对 API 服务器发送 2000 个 HTTP 请求的比较好的解决方案?

  •  
  •   whereabouts · Sep 29, 2018 · 8006 views
    This topic created in 2806 days ago, the information mentioned may be changed or developed.
    HTTP 的 Session 没什么要求。目标是一个 API 服务器,所以只有 1 个 IP。
    或者还是 Nodejs/Golang 实现起来更合适一点?
    22 replies    2019-08-24 21:30:04 +08:00
    zhengyongtao
        1
    zhengyongtao  
       Sep 29, 2018   ❤️ 1
    用 tornado
    lniwn
        2
    lniwn  
       Sep 29, 2018 via Android   ❤️ 1
    aiohttp clientsession, per_host_limit=2000,对于 1 秒这个问题,如果要求不是很严格,ayncio.sleep 即可。
    iBaoger
        3
    iBaoger  
       Sep 29, 2018 via Android
    apache ab 不好用吗
    whereabouts
        4
    whereabouts  
    OP
       Sep 29, 2018
    忘了说了,需求是可自定义 HTTP 请求的 Header、Cookie、Url 参数。 不过一般都能做到吧,主要是考虑下用哪个方案合适一点。
    owenliang
        5
    owenliang  
       Sep 29, 2018
    你会啥用啥呗。
    Akikiki
        6
    Akikiki  
       Sep 29, 2018
    Locust
    Qzier
        7
    Qzier  
       Sep 29, 2018 via iPad
    有现成的工具为什么不用? nodejs 写的 loadtest,c 语言写的 wrk。
    Kilerd
        8
    Kilerd  
       Sep 29, 2018   ❤️ 1
    2000qps 先考虑一下数据库的优化吧,python 的极大框架都能撑起这个 qps。
    实在不行就用 docker,横向扩展做负载均衡
    uwh0am1
        9
    uwh0am1  
       Sep 29, 2018
    aio
    crawl3r
        10
    crawl3r  
       Sep 29, 2018
    requests + gevent + 多进程
    ltoddy
        11
    ltoddy  
       Sep 29, 2018
    asyncio + urlopen + concurrent.futures.ThreadExecutorPool
    EINDEX
        12
    EINDEX  
       Sep 29, 2018
    aiohttp
    my3157
        13
    my3157  
       Sep 29, 2018
    是压测么? 试试 tsung
    gimp
        14
    gimp  
       Sep 29, 2018
    试试 wrk 呢
    qq976739120
        15
    qq976739120  
       Sep 29, 2018
    ab
    yc8332
        16
    yc8332  
       Sep 29, 2018
    go 吧。2000 个 goroutine 又简单。
    janxin
        17
    janxin  
       Sep 29, 2018
    https://locust.io/ 现成的框架提交个任务不就行了
    Leigg
        18
    Leigg  
       Sep 29, 2018 via iPhone
    go 一下很轻松
    exiaohao
        19
    exiaohao  
       Sep 29, 2018
    自己撸代码就 requests + gevent, 闲得蛋疼用 celery 也可以啊
    楼上说的 Locust 也可以了解一下~
    zhzer
        20
    zhzer  
       Sep 29, 2018 via Android
    http 测试用 go 写很简单
    luozic
        21
    luozic  
       Sep 29, 2018 via iPhone
    python 没你想的那么慢。 纯的 python,合理的代码搞这个无压力。并且 python 有部分 http 请求库底层是被用重写过的,担心个毛。
    bantianys
        22
    bantianys  
       Aug 24, 2019
    Locust 是用 requests 库,加上只能用单个 CPU 核心。性能会比 wrk 差不少。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   876 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 66ms · UTC 21:09 · PVG 05:09 · LAX 14:09 · JFK 17:09
    ♥ Do have faith in what you're doing.