V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
jack80342
V2EX  ›  Java

redis cluster 模式在 kubernetes 平台部署方案 只能提供给 k8s 集群内的应用使用,对集群外的应用根本用不了

  •  
  •   jack80342 · Jan 11, 2021 · 3974 views
    This topic created in 1933 days ago, the information mentioned may be changed or developed.

    redis cluster 模式在 kubernetes 平台部署方案 只能提供给 k8s 集群内的应用使用,对集群外的应用根本用不了,因为一旦涉及到 move 命令,redis 节点只会给出内部的 pod ip,这个使得集群外的应用根本连不上,因为这个涉及到 redis 的源码,redis 集群节点的相互通讯使用的 redis 进程所在的环境的 ip,而这个 ip 就是 pod ip,相对的节点发送给客户端的 move 的 ip 也是 pod ip 。 现向万能的社区征求方案意见,大家可自由发表方案意见。

    16 replies    2021-03-12 12:11:21 +08:00
    jj783850915
        1
    jj783850915  
       Jan 11, 2021 via Android
    集群前搞个代理?阿里云的 redis 集群似乎就是这么搞的
    lhx2008
        2
    lhx2008  
       Jan 11, 2021
    pod ip 也可以是 underlay 的
    ss098
        3
    ss098  
       Jan 12, 2021 via iPhone
    可能需要一个 NodePort Service ?
    Weny
        4
    Weny  
       Jan 12, 2021 via iPhone
    handless 映射到公网,集群配置里填公网地址
    jxlwqq
        5
    jxlwqq  
       Jan 12, 2021
    apply 个 对外的 Service 或者 Ingress
    MatthewHan
        6
    MatthewHan  
       Jan 12, 2021
    搞个 type 为 NodePort 的 Service 可以暴露服务,默认的是 Service 是 ClusterIP 模式的,还有可以看下 Ingress 的相关内容。
    monsterxx03
        7
    monsterxx03  
       Jan 12, 2021
    和 redis 没关系, 取决于你用的什么网络方案,比如 aws 上他们另外开发的 vpc cni plugin, 每个 pod 会被分配一个 vpc 内可路由的内网 ip, 给 redis cluster 设置 headless service 映射到 route53 上, 不在 k8s 内,但在 vpc 内的 pod 就能通过域名解析到正确的 ip.
    displayabc
        8
    displayabc  
       Jan 12, 2021   ❤️ 1
    配置 redis 的 cluster-announce-ip
    wennew
        9
    wennew  
       Jan 12, 2021
    好像可以设置为宿主机的 ip,端口不一样就行
    hz570815725
        10
    hz570815725  
       Jan 13, 2021
    讲下我对 redis cluster 的三个理解:
    1:k8s 上使用 StateFulSet 部署 redis cluster
    2:需要集群外访问,两个办法,一是从 StateFulSet 通信角度出发,可以查看这篇文章,作者是 k8s 的工程师。Exposing StatefulSets in Kubernetes | by Bob Killen | ITNEXT
    https://itnext.io/exposing-statefulsets-in-kubernetes-698730fb92a1 。根据他的文章,那么我们需要对 Redis 实例域名进行处理。二则是直接暴露 Node 的 IP,我对他进行了实现和实践,并写成了博客,链接在最后。

    3:Chart 化,工具组件的本质是易用性,所以是有必要对其进行封装简化部署的。但我看到 Chart 包的 redis 集群,基本上都是 HA 哨兵实现的

    K8s 部署 Redis Cluster 集群 | 猥琐发育不要浪
    https://www.gotkx.com/?p=76
    julyclyde
        11
    julyclyde  
       Jan 13, 2021
    和 k8s service 基本上没啥关系
    redis cluster 的客户端知道集群结构并且直接连接各节点
    jack80342
        12
    jack80342  
    OP
       Mar 11, 2021
    @haython 因为实在 k8s 里面,不清楚 pod 会移到哪台机器上
    jack80342
        13
    jack80342  
    OP
       Mar 11, 2021
    @jj783850915 请问您有具体的实现方式吗?
    jack80342
        14
    jack80342  
    OP
       Mar 11, 2021
    @julyclyde 是的。就是因为 redis 集群在 k8s 里,而且集群的客户端直接连接集群的各节点导致的。
    jack80342
        15
    jack80342  
    OP
       Mar 12, 2021
    @Weny 请问具体需要怎么操作?
    julyclyde
        16
    julyclyde  
       Mar 12, 2021
    @jack80342 redis 改为 host network 模式运行
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3182 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 55ms · UTC 13:39 · PVG 21:39 · LAX 06:39 · JFK 09:39
    ♥ Do have faith in what you're doing.