有没有办法实现简单的 Go 服务 leader 选举？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

The Go Programming Language

› http://golang.org/

› Go Playground

Go Projects

› Revel Web Framework

这是一个创建于 673 天前的主题，其中的信息可能已经有所发展或是发生改变。

需要从服务实例中选出一个 leader ，从事一些必须“全局唯一”的事情。

当 leader 因为各种原因下线后，其它实例要能及时选举出新 leader 。

要求依赖别太重，或者依赖常用组件服务，比如 redis 。还要考虑这个依赖的组件服务可能掉线可能重连。

Leader

实例

选举

Redis

48 条回复 • 2023-01-09 14:36:11 +08:00

okayan

2023-01-06 18:18:35 +08:00

如果是在 kubernetes 集群里的话，可以直接用 k8s.io/client-go/tools/leaderelection

lion250258

2023-01-06 18:21:30 +08:00

好像记得 zookeeper 也有这个功能吧

ikaros

2023-01-06 18:22:11 +08:00

基于 raft 写个状态机，不过感觉有点杀鸡用牛刀 https://github.com/hashicorp/raft

teli

2023-01-06 18:25:54 +08:00 via Android

@lion250258 可能没 zookeeper 这个或这类组件。
但 redis 应该都有

stillFox

2023-01-06 18:26:05 +08:00

不想要有重的外部依赖的话，自己现实的工作量也会很重哦。感觉这个开发成本并不一定比外部组件的维护成本低。我记得早期 kafka 的选主也是依赖 zookeeper 来实现的。后来才去掉了。

virusdefender

2023-01-06 18:28:45 +08:00

需求不是特别严格的话不难，比如找一个基于数据库或者 redis 的锁的库就行，但是会有一些细节上的问题，比如 redis 可能是单点，要是用集群的话，数据同步可能有延迟，一些极端情况下可能还是不可用或者出现竞争等。

zoharSoul

2023-01-06 18:36:57 +08:00

zookeeper 算常用组件了吧, 用这个就可以呀

aqqwiyth

2023-01-06 18:40:23 +08:00

redis 原子操作 put 一个 value 为节点的 IP, 然后配置 key 15 秒过期. 5 秒维持一次过期时间.

value 为节点 IP 的就是 leader, leader 挂了之后 15 秒之后 put 成功的就是下一个 leader

littlewing

2023-01-06 18:49:51 +08:00

embedded etcd

hscxrzs

2023-01-06 19:17:49 +08:00

leader 这东西类似于分布式锁，可以看看按照分布式锁的思路来做。每个实例起一个后台线程，定时去尝试获取分布式锁。对于获取锁成功的那个实例就是 leader ，然后定时去刷新过期时间。如果 leader 挂了，那么其他实例获得分布式锁的就是 leader 了

teli

2023-01-06 19:22:39 +08:00 via Android

@littlewing 这个方案貌似不错。
不知道资源消耗多少？有实例代码吗？

CEBBCAT

2023-01-06 19:25:58 +08:00

可否对「“全局唯一”的事情」举个例子？我是觉得常见业务不用 leader 选举也能做到独占，leader 选举这样的设计一般是为了保证同步

my3157

2023-01-06 19:27:50 +08:00

https://github.com/hashicorp/memberlist

teli

2023-01-06 19:35:17 +08:00 via Android

@CEBBCAT 目前需求是全局只有一个实例在干这事

luyifei

2023-01-06 20:05:57 +08:00

@ikaros raft + 1 ，可以看一下 mit 的 6.824 ，就是用 raft 写的一个分布式 kv 服务

potatowish

2023-01-06 20:12:17 +08:00 via iPhone

结合 10L 可以用 redis 分布式锁，按一定周期获取锁

teli

2023-01-06 20:14:08 +08:00 via Android

@my3157 看起来很牛掰。但没发现支持 leader 特性。有什么好办法基于这个实现 leader 选举吗？

teli

2023-01-06 20:16:36 +08:00 via Android

@hscxrzs 我首先想到的也是这个办法。但上面有位朋友提醒了我，如果是集群，同步会有延迟。这个有什么好应对办法？

sadfQED2

2023-01-06 20:26:45 +08:00 via Android

为啥不考虑锁，而去搞个选举。选举要考虑各种情况的脑裂，问题一大堆。分布式锁 redis 几行代码就搞定了

TheCure

2023-01-06 20:28:05 +08:00

https://pdos.csail.mit.edu/6.824/labs/lab-raft.html

Juszoe

2023-01-06 20:32:57 +08:00

https://github.com/hashicorp/raft

BBCCBB

2023-01-06 21:18:21 +08:00

别听楼上什么分布式锁 redis 几行代码就搞定了,

要是其他方案靠谱的话, 就不会有 paxos, raft 了

my3157

2023-01-06 21:33:54 +08:00 via Android

@teli 知道那些节点在线，那些不在线，上 /下线都有 event ，节点之间还可以广播数据，选个主还不简单，说个最 low 的方法，获取当前活着的节点列表，把 peer ip + port 转成 int ，选最小活着最大的

dusu

2023-01-06 21:42:10 +08:00 via iPhone

我这边项目选 leader 主要是为了节点挂了服务正常
所以 redis 的 ping 锁操作可以
但是不适应于异地集群
而且也有单点问题
目前我的简单的解决方案：
用 cloudflare 的 kv 服务代替 redis 使用

misaka19000

2023-01-06 23:20:25 +08:00

直接 redis 分布式锁啊，redis 用哨兵实现高可用就行了

joesonw

2023-01-07 01:57:42 +08:00 via iPhone

redis setnx 。slave 到 master 断了再去抢，其余的没抢到的直接取值找到 master 是谁。

SeaTac

2023-01-07 05:11:12 +08:00

我们用的是改过的 paxos
3 个 replica ，1 leader 2 follower
但是实现挺复杂的

rrfeng

2023-01-07 06:09:26 +08:00 via Android

最简单的肯定是借助现有的依赖啊，比如你用了数据库，那就在数据库里搞一条记录，所有实例来抢占就行了。
Redis 也行，有啥用啥。

defage

2023-01-07 08:12:29 +08:00

我记得 etcd 有个嵌入的 lib 可以直接用，不是自己部署 etcd 服务，是自己用它的 sdk

GTim

2023-01-07 08:47:33 +08:00

@ikaros 最佳方案，没有之一

teli

2023-01-07 08:55:47 +08:00 via Android

@defage https://pkg.go.dev/github.com/coreos/etcd/embed
这个？

xsen

2023-01-07 09:07:43 +08:00

@teli #31 你那个好像有些问题的，这个是可以，
https://pkg.go.dev/go.etcd.io/etcd/server/v3/embed

litguy

2023-01-07 09:18:42 +08:00

etcd 的锁机制就可以完成你的功能
几年前我们就是基于这个作的

sujin190

2023-01-07 09:44:32 +08:00 via Android

既然如此，直接实现成分布式锁的逻辑就是了呗，谁获取锁成功谁就能操作或者是 leader

solos

2023-01-07 09:45:34 +08:00

https://github.com/lni/dragonboat

evil0harry

2023-01-07 10:24:10 +08:00

@okayan 404

clownpiece

2023-01-07 11:23:00 +08:00

如果 redis 集群出现故障导致你们 leader 选举出现问题如重复或者无 leader ，那是你们团队的锅，因为 redis 不提供保证。如果用 zk 或者 etcd 出现问题，是对应组件 dba 的锅。
所以选什么很明显了

starqoq

2023-01-07 11:27:08 +08:00

西方的选举制度可能不适合我们中国的程序呢。建议程序们开一个党代会选出全局唯一的核心。狗头。

ihciah

2023-01-07 11:53:47 +08:00 via iPhone

redis 选主没什么问题，简单方便，还不要求节点之间的连通性。
raft/etcd 杀鸡用牛刀了，你说它能用吧，它确实能用。为啥 etcd 不用 redis ？因为 redis 是单机服务，而 etcd 想解决的就是单点故障。只要你保证 redis 不宕机，那走 redis 就是个 ok 的方案。生产环境不少就是这么选主的，业务自个用 raft 的倒是一个没见过。