V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
Tornado Documentation
http://www.v2ex.com/tornado/
Tornado on GitHub
https://github.com/facebook/tornado/
Tornado Gists
http://tornadogists.org/
foomorrow
V2EX  ›  Tornado

Tornado中有个handler执行一条时间很长的sql,导致其他正访问网站的连接也会一起等待

  •  
  •   foomorrow · Oct 16, 2013 · 10197 views
    This topic created in 4584 days ago, the information mentioned may be changed or developed.
    我的/a 这个handler中,有个要查询很长时间的sql,大概5秒。在这5秒期间 有其他用户访问tornado网站 也会跟着一起等待,这个有没有办法解决呢。
    21 replies    1970-01-01 08:00:00 +08:00
    Livid
        1
    Livid  
    MOD
    PRO
       Oct 16, 2013 via iPhone
    启动多个 Tornado,然后通过 Nginx 做负载均衡。
    shiny
        2
    shiny  
    PRO
       Oct 16, 2013   ❤️ 1
    用异步的数据库驱动。。。
    foomorrow
        3
    foomorrow  
    OP
       Oct 16, 2013
    @Livid 目前是这么做的 由于服务器是双核 所以就用supervisor开了2个实例
    foomorrow
        4
    foomorrow  
    OP
       Oct 16, 2013
    @shiny 我现在用的是sqlalchemy。尝试写成
    jsonmap = yield gen.Task(self.get_data)
    这个样子 是否可行?
    ipconfiger
        5
    ipconfiger  
       Oct 16, 2013
    @foomorrow 没用的,可以试试我的这个项目 https://github.com/ipconfiger/TorCast 将长时间执行的任务用redis分发到后端的worker进程,然后异步等待返回
    Livid
        6
    Livid  
    MOD
    PRO
       Oct 16, 2013 via iPhone
    @foomorrow 如果不会经常锁表的话,多开几个进程吧。
    est
        7
    est  
       Oct 16, 2013
    @foomorrow @shiny 我觉得 @ipconfiger 说的是对的。如果你db卡了。前端在怎么异步都没用。因为无论你多少个tornado实例,最终heavylifting还是一个mysqld 进程来执行所有查询操作。
    shiny
        8
    shiny  
    PRO
       Oct 16, 2013
    @est 但是 mysql 有多线程啊亲!起码不会影响其他用户的访问。
    est
        9
    est  
       Oct 16, 2013
    @shiny 你猜猜mysqld默认线程上限是多少个?
    shiny
        10
    shiny  
    PRO
       Oct 16, 2013
    @est 明白了,不过用队列代码会越来越复杂…… 还是优化 SQL、拆分数据库、加缓存方便?
    est
        11
    est  
       Oct 16, 2013   ❤️ 2
    @shiny 数据库是瓶颈就应该调教数据库。

    比如我这里

    show variables like 'max_connections';
    +-----------------+-------+
    | Variable_name | Value |
    +-----------------+-------+
    | max_connections | 151 |
    +-----------------+-------+
    1 row in set (0.00 sec)


    如果 show variables like 'thread_handling'; 返回 one-thread-per-connection

    再假设一个用户一个连接,每个连接查询5秒,你可以很容易算出来自己的服务器每秒钟能最多接待多少用户。
    ipconfiger
        12
    ipconfiger  
       Oct 16, 2013
    @shiny 如果要执行5秒的数据库操作,你打算优化的目标是多少? 用我的异步队列方案的话你可以和网站复用相同的业务逻辑代码,我自己的项目就是复用同一份逻辑代码,所以不会增加代码复杂度,不过这个要看你的设计功力了。
    wwqgtxx
        13
    wwqgtxx  
       Oct 16, 2013 via Android
    感觉需要优化一下sql性能,看看有没有办法优化mysql,或者可能的话把数据库服务器和网站服务器分离,可能会好一些
    zenliver
        14
    zenliver  
       Oct 16, 2013
    1. 优化mysqli性能, 2. 用future.executor
    VYSE
        15
    VYSE  
       Oct 16, 2013 via Android
    以前碰到这种情况就两个选择,换pg或换FLASK+GEVENT。你也可以试试一些改的ASYNC MYSQLDB
    superisaac
        16
    superisaac  
       Oct 17, 2013
    haha, 用这种异步框架又非原生异步的典型问题之一。
    superisaac
        17
    superisaac  
       Oct 17, 2013
    foomorrow
        18
    foomorrow  
    OP
       Oct 17, 2013
    那如果是这样的话 那tornado比nodejs的优势在哪呢
    zenliver
        19
    zenliver  
       Oct 17, 2013
    @foomorrow 差不多的东西, 唯一的区别是nodejs中你能用到的基本都异步实现的, tornado就少了
    unionx
        20
    unionx  
       Oct 18, 2013
    @VYSE pg就不需要异步读取数据库或者缓存了么?
    VYSE
        21
    VYSE  
       Oct 28, 2013
    @unionx pg主要有原生的异步库,mysql搞gevent+umysql倒是可以,tornado框架下就少有好的方案了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2483 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 54ms · UTC 15:40 · PVG 23:40 · LAX 08:40 · JFK 11:40
    ♥ Do have faith in what you're doing.