专栏名称: 程序IT圈

一个学习编程技术和读者福利共存的公众号，每天推送高质量的优秀博文和原创文章，开源项目，实用工具，面试技巧等。公众号每月至少一次读者送书福利！关注置顶，不错过精彩推送！

不容错过的灰度发布系统架构设计

程序IT圈 · 公众号 · 程序员 · 2021-03-04 10:00

正文

作者 | 小杨互联网

来源 | www.toutiao.com/i6910008843955192323

互联网产品需要快速迭代开发上线，又要保证质量，保证刚上线的系统，一旦出现问题可以很快控制影响面，就需要设计一套灰度发布系统。

灰度发布系统的作用，可以根据配置，将用户的流量导到新上线的系统上，来快速验证新的功能，而一旦出现问题，也可以马上的修复，简单的说，就是一套A/B Test系统。

灰度发布允许带着bug上线，只要bug不是致命的，当然这个bug是不知道的情况下，如果知道就要很快的改掉

灰度简单架构如上图所示，其中的必要组件如下：

1、策略的配置平台，存放灰度的策略

2、灰度功能的执行程序

3、注册中心，注册的服务携带ip/Port/name/version

有了上面三个组件，才算一个完整的灰度平台

灰度必须要有灰度策略，灰度策略常见的方式有以下几种

1、基于Request Header进行流量切分

2、基于Cookie进行流量切分

3、基于请求参数进行流量切分

举例：根据请求中携带的用户uid进行取模，灰度的范围是百分之一，那么uid取模的范围就是100，模是0访问新版服务，模是1~99的访问老版服务。

灰度发布策略分为两类，单策略和组合策略

单策略：比如按照用户的uid、token、ip进行取模

组合策略：多个服务同时灰度，比如我有A/B/C三个服务，需要同时对A和C进行灰度，但是B不需要灰度，这个时候就需要一个tag字段，具体实现在下文详述

在上面的简单灰度发布系统架构中我们了解到，灰度发布服务分为上游和下游服务，上游服务是具体的执行灰度策略的程序，这个服务可以是nginx，也可以是微服务架构中的网关层/业务逻辑层，下面我们就来分析一下不同的上游服务，如何落地

如果上游服务是nginx，那么就需要nginx通过Lua扩展nginx实现灰度策略的配置和转发，因为nginx本身并不具备灰度策略的执行

通过lua扩展实现了灰度策略的执行，但是问题又来了，nginx本身并不具备接收配置管理平台的灰度策略，这个时候应该怎么办呢？

解决方案：本地部署Agent（需要自己开发），接收服务配置管理平台下发的灰度策略，更新nginx配置，优雅重启Nginx服务

只需要集成配置管理平台客户端SDK，接收服务配置管理平台下发的灰度策略，在通过集成的SDK进行灰度策略的执行即可

下面举例两个稍微复杂的灰度发布场景，灰度策略假设都按照uid取模灰度百分之一的用户，看一下如何实现。

功能升级涉及到多个服务变动，网关层和数据访问层灰度，业务逻辑层不变，这个时候应该如何进行灰度？

解决方案：

经过新版本网关层的请求，全部打上tag T，在业务逻辑层根据tag T进行转发，标记Tag T的请求全部转发到新版数据访问层服务上，没有tag T的请求全部转发到老版数据访问层上。