• 请不要在回答技术问题时复制粘贴 AI 生成的内容
awanganddong
V2EX  ›  程序员

延迟队列落地方案

  •  
  •   awanganddong · Oct 16, 2020 · 3865 views
    This topic created in 2046 days ago, the information mentioned may be changed or developed.

    需求是这样的,后台配置时间,然后给用户发消息。 在用户关注后,根据这个时间发消息 比如 5s,发送一条数据 10s,发送一条数据。

    现在用的定时任务处理,这样大概会有 1 分钟左右误差。

    如果将定时任务设置成秒级,则 1s 中处理不完业务。


    如果用延迟队列。 用户关注,然后扫配置表,把用户 ID+延迟时间写入 redis zset 。然后一直消费这个有序队列。 这样存在一个问题,如果管理员修改后台配置信息,我就需要批量修改 zset 里边的时间。

    也就是需要修改整个公众号所有的 zset 数据。

    有什么简单一些的方案吗

    17 replies    2020-10-16 14:00:28 +08:00
    coderxy
        1
    coderxy  
       Oct 16, 2020
    可以考虑配置修改只对修改后生效,前面的不管
    BBCCBB
        2
    BBCCBB  
       Oct 16, 2020
    1. redisson (用下来偶尔会有丢失的情况出现, 需要一个兜底的方案)
    2. pulsar mq 或者其他支持延迟队列的 mq.
    3. 扫表(缺点你说了).
    chogath
        3
    chogath  
       Oct 16, 2020
    redis bull - node.js
    specita
        4
    specita  
       Oct 16, 2020
    秒级扫表把需要处理的用户放入队列里串行处理
    awanganddong
        5
    awanganddong  
    OP
       Oct 16, 2020
    后台数据库如下,

    一张表存储是否开启

    公众号 是否开启是否发送信息

    还有一张子表

    记录 延迟时间 发送内容

    ------------------------------------------

    用延迟队列现在考虑的问题就是我写入 zset 数据 ,但是后台修改配置的问题。

    秒级扫表,我是以配置表为主表 。然后获取可用公众号配置项,然后循环用户表,比对用户表与配置表的差值。

    担心的问题就是在对用户表比对的过程。如果不能快速响应,那就比对失败。 因为精度是秒级别的
    Veneris
        6
    Veneris  
       Oct 16, 2020
    MQ 支持延时消费的
    axbx
        7
    axbx  
       Oct 16, 2020
    MQ 有的功能不要再折腾,大概率是比自己写的好用
    wxy1991
        8
    wxy1991  
       Oct 16, 2020
    设置一个时间的浮动值,比如第一次配置当作基准时间,比较的时候比较 基准时间+浮动时间<=>zset 的时间,修改配置时,其实是修改了浮动时间,这样就可以随意修改配置,代码改动也最小
    lidlesseye11
        9
    lidlesseye11  
       Oct 16, 2020
    Thread.sleep(5000)
    DavidNineRoc
        10
    DavidNineRoc  
       Oct 16, 2020
    来个简单一点的处理.
    发送的间隔时间 interval == 5s || 10s
    用户创建时间点 created_at
    发送延迟时间点 delay_at

    // 当用户关注之后, 往 zset 存储
    ZADD xxx delay_at "id, interval=5, created_at, "

    // 当管理员改为 20s 后, 找到最近 20s 内创建的所有用户, 重新往延时队列加
    ZADD xxx delay_at "id, interval=20, created_at, "

    // 延时队列消费的进程加一个判断.
    if interval not in 管理员的配置列表
    return false;
    lzxz1234
        11
    lzxz1234  
       Oct 16, 2020
    扫表也不一定必须有误差,每分钟扫表将要执行的放到内存队列里,到时间执行就可以了

    混合方案,也不需要额外依赖 redis 队列啥的
    sujin190
        12
    sujin190  
       Oct 16, 2020
    https://github.com/snower/forsun

    之前做的一个定时服务,通过 key 指定定时任务,通过 key 随时可以修改,每个任务秒级定时,后端持久化用 redis 不担心丢失,已经稳定用在日百万级订单超时这样的任务处理,可以看看能不能满足
    Evilk
        13
    Evilk  
       Oct 16, 2020
    RabbitMQ,本身就支持死信队列(延时队列)
    awanganddong
        14
    awanganddong  
    OP
       Oct 16, 2020
    工期紧。只能简单粗暴了
    @DavidNineRoc 这个方案可以。唯一瓶颈就是 在 zset 修改文件这里了
    mosliu
        15
    mosliu  
       Oct 16, 2020
    一个线程 定时任务,取出要发送的任务,
    另外起线程做发送不就行了。
    awanganddong
        16
    awanganddong  
    OP
       Oct 16, 2020
    理清楚了,

    最开始我困惑的点,在于后台修改配置文件,那怎么修改延迟队列的数据内容。

    刚明白过来,

    配置表修改内容后,我只需要关注添加就可以了。

    消费的时候,我验证下无效的消费就可以了。
    857681664
        17
    857681664  
       Oct 16, 2020
    rabbitMQ 的延时队列也可以处理。
    用户关注之后把 userId 放入队列,同时设置延时时间,在消费完只需要再查一次配置表,把新的延时时间设置到消息上,再把消息塞回队列即可。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2670 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 99ms · UTC 10:55 · PVG 18:55 · LAX 03:55 · JFK 06:55
    ♥ Do have faith in what you're doing.