CODING DevOps + Nginx 3年前

作者:王炜,CODING DevOps 后端开发工程师,拥有多年研发经验,云原生、DevOps、Kubernetes 资深爱好者,Servicemesher 服务网格中文社区成员。获得 Kubernetes CKA、CKAD 认证。

前言

在 Kubernetes 上的应用实现灰度发布,最简单的方案是引入官方的 Nginx-ingress 来实现。

我们通过部署两套 deployment 和 services,分别代表灰度环境和生产环境,通过负载均衡算法,实现对两套环境的按照灰度比例进行分流,进而实现灰度发布。

通常的做法是当项目打包新镜像后,通过修改 yaml 文件的镜像版本,执行 kubectl apply 的方式来更新服务。如果发布流程还需要进行灰度发布,那么可以通过调整两套服务的配置文件权重来控制灰度发布,这种方式离不开人工执行。如果项目数量多,灰度的时间跨度过长,人为误操作的概率将大大增加,过于依赖于人工执行,这对于 DevOps 工程实践是不能忍受的。

那么,有没有一种方式能够实现无需人工干预的自动化灰度呢?例如在代码更新后,自动发布到预发布和灰度环境,并在一天的时间内自动将灰度比例从 10% 权重提高到 100%,且能够随时终止,灰度通过后自动发布到生产环境?

答案是肯定的,利用 CODING DevOps 就能够满足此类需求。

Nginx-ingress 架构和原理

迅速回顾一下 Nginx-ingress 的架构和实现原理:

CODING DevOps + Nginx

Nginx-ingress 通过前置的 Loadbalancer 类型的 Service 接收集群流量,将流量转发至 Nginx-ingress Pod 内并对配置的策略进行检查,再转发至目标 Service,最终将流量转发至业务容器。

传统的 Nginx 需要我们配置 conf 文件策略。但 Nginx-ingress 通过实现 Nginx-ingress-Controller 将原生 conf 配置文件和 yaml 配置文件进行了转化,当我们配置 yaml 文件的策略后,Nginx-ingress-Controller 将对其进行转化,并且动态更新策略,动态 Reload Nginx Pod,实现自动管理。

那么 Nginx-ingress-Controller 如何能够动态感知集群的策略变化呢?方法有很多种,可以通过 webhook admission 拦截器,也可以通过 ServiceAccount 与 Kubernetes Api 进行交互,动态获取。Nginx-ingress-Controller 使用后者来实现。所以在部署 Nginx-ingress 我们会发现 Deployment 内指定了 Pod 的 ServiceAccount,以及实现了 RoleBinding ,最终达到 Pod 能够与 Kubernetes Api 交互的目的。

实现方案预览

为了实现以上目标,我们设计了以下持续部署流水线。

CODING DevOps + Nginx

此持续部署流水线主要实现了以下几个步骤:

1、自动部署到预发布环境
2、是否进行 A/B 测试
3、自动灰度发布(自动进行3次逐渐提升灰度比例)
4、发布到生产环境

同时,本文案例还演示了从 Git 提交代码到自动触发持续集成的步骤:

1、提交代码后触发持续集成,自动构建镜像
2、镜像构建完成后,自动推送镜像到制品库
3、触发持续部署

1、提交代码后触发持续集成,自动构建镜像并推送到制品库

CODING DevOps + Nginx

2、触发持续部署,并发布到预发布环境

CODING DevOps + Nginx

3、人工确认:进行 A/B 测试(或跳过直接进入自动灰度)

CODING DevOps + Nginx

进行 A/B 测试时,只有 Header 包含 location=shenzhen 可以访问新版本,其他用户访问生产环境仍然为旧版本。

4、人工确认:是否自动灰度发布(自动进行 3 轮逐渐提升灰度比例,每轮间隔 30s)

第一次灰度:新版本 30% 的灰度比例,此时访问生产环境大约有 30% 的流量进入新版本灰度环境:

CODING DevOps + Nginx

30s 后自动进行第二轮灰度:新版本 60% 的灰度比例:

CODING DevOps + Nginx

60s 后自动进行第三轮灰度:新版本 90% 的灰度比例:

CODING DevOps + Nginx

本案例中,我们配置了自动化灰度发布将会以 3 次渐进式进行,每次提高 30% 的比例,每次持续 30s 后自动进入下一个灰度阶段。在不同的灰度阶段,会发现请求新版本出现的概率越来越高。渐进式的灰度可根据业务需要进行任意配置,例如持续 1 天时间分 10 次自动进行灰度,直至发布到生产环境而无需人工值守。

5、灰度完成,30s 后发布到生产环境

CODING DevOps + Nginx

项目源码和原理分析

项目源码地址:https://wangweicoding.coding.net/public/nginx-ingress-gray/nginx-ingress-gray/git

├── Jenkinsfile # 持续集成脚本├── deployment│ ├── canary│ │ └── deploy.yaml # 灰度发布部署文件│ ├── dev│ │ └── deploy.yaml # 预发布部署文件│ └── pro│  └── deploy.yaml # 生产部署文件├── docker│ ├── Dockerfile│ └── html│  └── index.html├── nginx-ingress-init│ ├── nginx-ingress-deployment # nginx-ingress 部署文件│ │ ├── ClusterRoleBinding.yaml│ │ ├── RoleBinding.yaml│ │ ├── clusterRole.yaml│ │ ├── defaultBackendService.yaml│ │ ├── defaultBackendServiceaccount.yaml│ │ ├── deployment.yaml│ │ ├── nginxDefaultBackendDeploy.yaml│ │ ├── roles.yaml│ │ ├── service.yaml│ │ └── serviceAccount.yaml│ └── nginx-ingress-helm # nginx-ingress Helm 包│  └── nginx-ingress-1.36.3.tgz└── pipeline # 持续部署流水线模板 ├── gray-deploy.json # 灰度发布流水线 ├── gray-init.json .........
榕郁@NUDT
我从壁橱里取出被褥,让她躺好,一边吸烟一边看着窗外的绵绵春雨。
3
发布数
3
关注者
1221
累计阅读

热门教程文档

C
14小节
Java
12小节
Python
76小节
C#
57小节
10.x
88小节