yuoboo
V2EX  ›  问与答

关于 celery 异步任务的问题

  •  
  •   yuoboo · Mar 26, 2019 via Android · 2137 views
    This topic created in 2614 days ago, the information mentioned may be changed or developed.

    使用 celery +rabbirmq 发送异步任务 每个任务有独立队列

    如何统计每分钟任务发送量和最大峰值极限发送量各是多少?

    如果队列突然进入大批量任务,如何能快速处理大批量任务?

    任务执行不成功如何以可控时间间隔来重复执行失败任务?

    等大佬赐教!!

    3 replies    2019-03-27 08:36:19 +08:00
    yuoboo
        1
    yuoboo  
    OP
       Mar 26, 2019 via Android
    等大佬上线
    di94sh
        2
    di94sh  
       Mar 27, 2019 via Android
    1.直接监控 rabbitmq
    2.celery 是分布式任务队列,那么加机器。机器不够就通过监控 rabbit mq 弹性扩容。
    3.执行异步任务时都把入参,任务的 key,任务执行状态写到数据库。任务完成后更改数据库里状态。再搞一个定时任务,去数据库把失败的任务放到队列。
    yuoboo
        3
    yuoboo  
    OP
       Mar 27, 2019 via Android
    @di94sh 感谢
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2809 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 129ms · UTC 13:06 · PVG 21:06 · LAX 06:06 · JFK 09:06
    ♥ Do have faith in what you're doing.