推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
xutaoding
V2EX  ›  Python

Python3 中在同步代码的框架中使用 asyncio 异步(async/await),是否能提升性能?

  •  
  •   xutaoding · Mar 3, 2021 · 3786 views
    This topic created in 1904 days ago, the information mentioned may be changed or developed.

    假如用 flask 或者 django(不使用异步部署)这样的框架,在视图函数中使用 asyncio,对程序的性能是有提升? 如果没有提升或提升不大或结果不可预测,那么使用 asyncio 这样的异步库对程序性能提升的前提限制都有哪些?

    21 replies    2023-07-21 15:00:38 +08:00
    qW7bo2FbzbC0
        1
    qW7bo2FbzbC0  
       Mar 3, 2021   ❤️ 1
    推荐使用异步含量更高的语言
    xcstream
        2
    xcstream  
       Mar 3, 2021   ❤️ 1
    不能
    iConnect
        3
    iConnect  
       Mar 3, 2021 via Android   ❤️ 1
    喜欢 asyncio 直接用 fastapi,不要用 django 、flask 这些同步框架,框架作者都没打算上 asyncio,自己 hack 有很多问题。
    acmore
        4
    acmore  
       Mar 3, 2021
    不可预测,CPU 密集的项目用异步用处不大,比如你的项目是用来做大数质因分解的。
    异步主要用于网络和高 I/O 的项目,本质就是把 CPU 傻等的那段时间拿过来利用。
    你可以模拟下真实的网络环境跑个 benchmark 看看。
    clino
        5
    clino  
       Mar 3, 2021
    性能是不能提升的,只能提升并发数量

    如果并发能用到多核,比如开多个子进程进行计算,倒是可以算是提升了性能,但是在 web 框架里用应该没有这种情况发生
    superrichman
        6
    superrichman  
       Mar 3, 2021 via iPhone
    一处异步,处处异步
    从 0 开始吧
    tomczhen
        7
    tomczhen  
       Mar 3, 2021 via Android   ❤️ 1
    带有偏见看事物才是最有问题的,比如说 Django 都已经主推 asgi 了,到这里就变成“根本没打算上 asyncio”,再说 Python 异步生态又不是只有 asyncio 啊。

    回到异步对 Python 性能提升的话题,我觉得可以看看 https://techspot.zzzeek.org/2015/02/15/asynchronous-python-and-databases/
    iConnect
        8
    iConnect  
       Mar 3, 2021 via Android
    @tomczhen 哪里看到 django 社区 主推 asgi 啦?异步 ORM 都准备好了?
    iConnect
        9
    iConnect  
       Mar 3, 2021 via Android
    @tomczhen 正是因为 py 异步方案多,这几个主流的同步框架才不急着跟进吧
    Vegetable
        10
    Vegetable  
       Mar 3, 2021
    应该说可以在某些情况下提升效率,通过使用局部异步的方式。不过这么做和直接用多线程没啥区别。
    比如这段代码 https://gist.github.com/luliangce/9f9ce635a62f4b60e3109177630b0a30

    用异步的确比同步快,但其实没什么意义。
    LeeReamond
        11
    LeeReamond  
       Mar 3, 2021   ❤️ 1
    David beazly 在一开始讲异步的时候就很明确的总结,异步来自 Python 的另外一个宇宙( Universe ),其功能是通过维护一个事件循环,以复用的方式加速 IO 。和同步宇宙最大的区别在于异步宇宙中 func()并不像同步宇宙一样代表执行某任务,而是仅代表定义任务,执行在稍后。你想跟基于线程模型的同步 IO 混用,比如在 flask 框架里,那你要如何安排你的事件循环呢?
    renmu123
        12
    renmu123  
       Mar 3, 2021 via Android
    Python 的异步生态还不够成熟
    love
        13
    love  
       Mar 3, 2021 via Android
    异步库不是用来提升性能的吧,不觉得会比传统的同步多进程性能好
    chroming
        14
    chroming  
       Mar 3, 2021 via iPhone
    当初开始使用 fastapi 时自己本机测了下有一点业务代码的相同接口,fastapi+uvicorn 差不多比 flask+gunicorn 快一倍
    iConnect
        15
    iConnect  
       Mar 3, 2021 via Android
    @chroming 有没有印象,两种测试方案下,当时 CPU 和内存的占用分别达到多少?还是都跑满测试的?
    todd7zhang
        16
    todd7zhang  
       Mar 4, 2021
    @chroming 难道不是并发多一倍而已嘛?之前业务逻辑响应要 30ms,改成异步就能 15ms 了?
    abersheeran
        17
    abersheeran  
       Mar 4, 2021
    @chroming 好家伙,你拿一个性能最拉跨 WSGI 框架跟一个有 C 库加持的 ASGI 框架比性能。这是让巴基斯坦打 China,铁定输啊。

    要比性能,你可以换一个,比如 bottle+gunicorn+meinheld 与 starlette+uvicorn 比。一个是 WSGI 高性能的代表,一个是 ASGI 高性能的代表。
    abersheeran
        18
    abersheeran  
       Mar 4, 2021
    提升的前提有这么几个:属于 IO 密集型任务( CPU 密集你只能上 C/Rust 拓展),代码里没有任何同步 IO 代码(无栈协程有传染性),原有项目使用多线程模型导致了大量的线程切换损耗(如果你用 gevent 之类的去改造过了,asyncio 不会比 gevent 更快)。

    三个条件,任何一个不满足,都得不到显著的提升。这三个是必要条件,不一定是充分条件。
    xpresslink
        19
    xpresslink  
       Mar 4, 2021
    以海底捞火锅举例,性能是由台数决定的,门口等座椅子数量只能决定能拖住多少客人暂时不走。使用异步只是提高了等座椅子数量,最终决定性能的还是要靠 CPU 、磁盘、网络 IO 的处理能力。
    wangyzj
        20
    wangyzj  
       Mar 4, 2021
    io 密集型可以提高并发,还是要快一点
    mlbjay
        21
    mlbjay  
       Jul 21, 2023
    python 的 asyncio 是纯用户态线程,同步 io 会阻塞整个线程及其中的所有协程。
    Golang 的 MPG 就解决的这个问题。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1029 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 75ms · UTC 19:01 · PVG 03:01 · LAX 12:01 · JFK 15:01
    ♥ Do have faith in what you're doing.