Skip to content

🐳 Nepxion Discovery is a enhancement for Spring Cloud Discovery on Eureka + Consul + Zookeeper + Nacos with Nacos + Apollo config for gray release, router, weight, isolation 网关和服务灰度发布、路由、权重、隔离、调用链

License

Notifications You must be signed in to change notification settings

ty1972873004/Discovery

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Alt text

Nepxion Discovery【探索】

Total lines License Maven Central Javadocs Build Status Codacy Badge

每一个访问路过的朋友,如果您觉得这个开源框架不错,请顺手在页面右上角帮它[Star]一下

Alt text

Nepxion Discovery【探索】是基于Spring Cloud Discovery服务注册发现、Ribbon负载均衡、Feign和RestTemplate调用等组件全方位增强的企业级微服务开源解决方案,更贴近企业级需求,更具有企业级的插件引入、开箱即用特征

  • 支持Eureka、Consul、Zookeeper和阿里巴巴的Nacos四个服务注册发现中心
  • 支持阿里巴巴的Nacos、携程的Apollo和Redis三个远程配置中心
  • 支持Hystrix或者阿里巴巴Sentinel的两个熔断隔离限流降级
  • 支持Spring Cloud Gateway、Zuul网关和微服务三大模块的灰度发布和路由等一系列功能
  • 支持和兼容Spring Cloud Edgware版、Finchley版、Greenwich版和Hoxton版

其功能包括

  • 灰度发布,基于规则订阅的全链路灰度发布,包括切换发布(版本匹配发布、区域匹配发布)和平滑发布(版本权重发布、区域权重发布)
  • 灰度路由,基于Header传递的全链路灰度路由,包括切换路由(版本匹配路由、区域匹配路由、机器IP和端口匹配路由)和平滑路由(版本权重路由、区域权重路由)。可以在网关过滤器、前端界面、负载均衡策略类三个地方实现路由功能
  • 组合式灰度发布和路由。灰度发布和灰度路由的多种组合式规则和策略,前端灰度&网关灰度路由组合式策略
  • 灰度调用链,基于Header方式和日志方式的全链路灰度调用链
  • 服务隔离,基于组和黑/白名单的全链路服务隔离,包括注册准入隔离(基于黑/白名单,包括组和IP地址的准入、最大注册数限制的准入)、消费端隔离(基于组的负载均衡的隔离、基于黑/白名单的IP地址的隔离)和提供端隔离(基于组的Header传值策略的隔离)
  • 服务限流熔断降级权限,集成阿里巴巴Sentinel,有机整合灰度路由,扩展LimitApp的机制,通过动态的Http Header方式实现组合式防护机制,包括基于服务名、基于灰度组、基于灰度版本、基于灰度区域、基于机器地址和端口等防护机制,支持自定义任意的业务参数组合实现该功能。支持原生的流控规则、降级规则、授权规则、系统规则、热点参数流控规则
  • 数据库灰度发布,基于多数据源的数据库灰度发布
  • 同城双活多机房切换,基于区域匹配发布或者路由的同城双活多机房切换
  • 灰度路由和发布的自动化测试,基于Spring Boot/Spring Cloud自动化测试,包括普通调用测试、灰度调用测试和扩展调用测试(可扩展出阿里巴巴Sentinel、FF4j功能开关等自动化测试)
  • 支持自定义和编程实现扩展
    • 支持用户自定义和编程禁止注册、禁止被发现、禁止被负载均衡的策略
    • 支持用户自定义和编程灰度路由策略
    • 支持用户自定义和编程负载均衡策略类
    • 支持运维调度灰度发布和路由的元数据
    • 支持参数化灰度发布
  • Docker容器化和Kubernetes平台的无缝支持部署

现有的Spring Cloud微服务很方便引入该中间件,代码零侵入。鉴于Spring Cloud官方对Eureka和Hystrix不再做新功能的迭代,推荐用Nacos和Sentinel,它们对Spring Cloud灰度发布和路由更具出色的兼容性和友好性

💯建议

  • 由于源码中带有的示例功能比较齐全,较为复杂。强烈建议,先学习Alt text 指南示例

💯鸣谢

  • 感谢阿里巴巴中间件Nacos和Sentinel团队,尤其是Nacos负责人@于怀,Sentinel负责人@子衿,Spring Cloud Alibaba负责人@亦盏、@洛夜的技术支持
  • 感谢携程Apollo团队,尤其是@宋顺,特意开发OpenApi包和技术支持
  • 感谢代码贡献者,包括@WeihuaWang,@Esun,@liumapp,@terranhu,@JikaiSun,@HaoHuang,@FanYang,@Ankeway等
  • 感谢为本框架进行测试验证和问题分析定位的同学,包括@张龙,@CongweiXu,@fan,@阿神,@慕紫,@郝俊仁,@Windon,@杨成,@李鹏,@任学会等
  • 感谢为本框架提出宝贵意见和建议的同学
  • 感谢使用本框架的公司和企业。不完全统计,目前社区开源项目已经被如下公司使用或者调研:

Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text Alt text

为提供更好的专业级服务,请更多已经使用本框架的公司和企业联系我

💯特性

  1. 使用方便。只需如下步骤:
  • 引入相关依赖到pom.xml,参考依赖兼容
  • 操作配置文件,参考配置文件
    • 在元数据MetaData中,为微服务定义一个版本号(version),定义一个所属组名(group)或者应用名(application),定义一个所属区域(region)名
    • 根据项目实际情况,开启和关闭相关功能项或者属性值,达到最佳配置
  • 规则推送,参考规则定义
    • 通过远程配置中心推送规则
    • 通过控制平台界面推送规则
    • 通过客户端工具(例如Postman)推送
  • 导入Postman脚本
    • 为方便体验示例,将Postman的测试脚本导入,脚本地址
  1. 兼容性强。支持如下版本:
框架版本 框架状态 适用Spring Cloud版本 适用Spring Boot版本 适用Spring Cloud Alibaba版本
6.0.0 计划中 Hoxton
Greenwich
Finchley
2.2.x.RELEASE
2.1.x.RELEASE
2.0.x.RELEASE
2.2.x.RELEASE
2.1.x.RELEASE
2.0.x.RELEASE
5.4.1 迭代中,可用 Greenwich 2.1.x.RELEASE 2.1.x.RELEASE
4.12.1 迭代中,可用 Finchley 2.0.x.RELEASE 2.0.x.RELEASE
3.12.1 不维护,可用 Edgware 1.5.x.RELEASE 1.5.x.RELEASE
2.0.x 不维护,废弃 Dalston N/A N/A
1.0.x 不维护,废弃 Camden N/A N/A

目录

请联系我

微信、公众号和文档

Alt textAlt textAlt text

界面展示

图形化灰度发布桌面程序 Alt text Alt text Alt text 图形化灰度发布Web平台 Alt text 集成规则配置的Apollo配置中心 Alt text 集成规则配置的Nacos配置中心 Alt text Nacos服务注册发现中心 Alt text Spring Boot Admin监控平台 Alt text 集成Spring Boot Admin(F版或以上)监控平台,实现通过JMX向Endpoint推送规则和版本,实现灰度发布 Alt text 集成Spring Boot Admin(E版)监控平台,实现通过JMX向Endpoint推送规则和版本,实现灰度发布 Alt text 集成Sentinel熔断隔离限流降级平台 Alt text Alt text 集成健康检查的Consul界面 Alt text

现有痛点

现有的Spring Cloud微服务架构的痛点

  • 如果你是运维负责人,是否会经常发现,你掌管的测试环境中的服务注册中心,被一些不负责的开发人员把他本地开发环境注册上来,造成测试人员测试失败。你希望可以把本地开发环境注册给屏蔽掉,不让注册
  • 如果你是运维负责人,生产环境的某个微服务集群下的某个实例,暂时出了问题,但又不希望它下线。你希望可以把该实例给屏蔽掉,暂时不让它被调用
  • 如果你是业务负责人,鉴于业务服务的快速迭代性,微服务集群下的实例发布不同的版本。你希望根据版本管理策略进行路由,提供给下游微服务区别调用,例如访问控制快速基于版本的不同而切换,例如在不同的版本之间进行流量调拨
  • 如果你是业务负责人,希望灰度发布功能可以基于业务场景特色定制,例如根据用户手机号进行不同服务器的路由
  • 如果你是DBA负责人,希望灰度发布功能可以基于数据库切换上
  • 如果你是测试负责人,希望对微服务做A/B测试

应用场景

  • 黑/白名单的IP地址注册的过滤
    • 开发环境的本地微服务(例如IP地址为172.16.0.8)不希望被注册到测试环境的服务注册发现中心,那么可以在配置中心维护一个黑/白名单的IP地址过滤(支持全局和局部的过滤)的规则
    • 我们可以通过提供一份黑/白名单达到该效果
  • 最大注册数的限制的过滤
    • 当某个微服务注册数目已经达到上限(例如2000个),那么后面起来的微服务,将再也不能注册上去
  • 黑/白名单的IP地址发现的过滤
    • 开发环境的本地微服务(例如IP地址为172.16.0.8)已经注册到测试环境的服务注册发现中心,那么可以在配置中心维护一个黑/白名单的IP地址过滤(支持全局和局部的过滤)的规则,该本地微服务不会被其他测试环境的微服务所调用
    • 我们可以通过推送一份黑/白名单达到该效果
  • 多版本匹配的灰度控制
    • A服务调用B服务,而B服务有两个实例(B1、B2),虽然三者相同的服务名,但功能上有差异,需求是在某个时刻,A服务只能调用B1,禁止调用B2。在此场景下,我们在application.properties里为B1维护一个版本为1.0,为B2维护一个版本为1.1
    • 我们可以通过推送A服务调用某个版本的B服务对应关系的配置,达到某种意义上的灰度控制,改变版本的时候,我们只需要再次推送即可
  • 多版本权重的灰度控制
    • 上述场景中,我们也可以通过配给不同版本的权重(流量比例),根据需求,A访问B的流量在B1和B2进行调拨
  • 多区域匹配的灰度控制
    • 上述场景中,我们也可以通过配给不同区域的进行配对,根据需求,A访问B的流量在B1和B2(B1和B2所属不同区域)进行调拨
  • 多区域权重的灰度控制
    • 上述场景中,我们也可以通过配给不同区域的权重(流量比例),根据需求,A访问B的流量在B1和B2(B1和B2所属不同区域)进行调拨
  • 多数据源的数据库灰度控制
    • 我们事先为微服务配置多套数据源,通过灰度发布实时切换数据源
  • 动态改变微服务版本
    • 在A/B测试中,通过动态改变版本,不重启微服务,达到访问版本的路径改变
  • 路由策略的灰度控制
    • 在业务REST调用上,在Header上传入服务名和版本对应关系的Json字符串,后端若干个服务会把请求路由到指定版本的服务器上
    • 在业务REST调用上,在Header上传入区域(region)名,后端若干个服务会把请求路由到指定区域(region)名的服务器上
    • 在业务REST调用上,在Header上传入Token,根据不同的Token查询到不同的用户,后端若干个服务会把请求路由到指定的服务器上
    • 在业务RPC调用上,根据不同的业务参数,例如手机号或者身份证号,后端若干个服务会把请求路由到指定的服务器上

功能简介

  • 基于Spring Cloud的微服务和Spring Cloud Gateway和Zuul网关实现下述功能,它具有几个特性
    • 具有极大的易用性:支持在任何环节(微服务和两个网关),多种方式(REST和RPC)做灰度发布和路由;移除相关依赖包后,即恢复成原生的Spring Cloud体系;引入相关依赖包后,通过配置文件打开或者开关,该功能将自然启动,也可以通过规则文件配置来完成
    • 具有极小的限制性:原生的Spring Cloud体系只需开启服务注册发现和Ribbon负载均衡;程序入口只需加上@EnableDiscoveryClient注解;零额外代码量,除非业务需要使用非常复杂的功能,需要特色化定制
    • 具有极强的健壮性:当远程配置中心全部挂了,可以通过Rest方式进行灰度发布;当远程规则配置错误或者不规范,马上切换到本地规则来代替;当一个模块出现问题,不影响其它模块的运行
  • 实现服务注册层面的控制
    • 基于黑/白名单的IP地址过滤机制禁止对相应的微服务进行注册
    • 基于最大注册数的限制微服务注册。一旦微服务集群下注册的实例数目已经达到上限,将禁止后续的微服务进行注册
  • 实现服务发现层面的控制
    • 基于黑/白名单的IP地址过滤机制禁止对相应的微服务被发现
    • 基于版本号配对,通过对消费端和提供端可访问版本对应关系的配置,在服务发现和负载均衡层面,进行多版本访问控制
    • 基于版本权重配对,通过对消费端和提供端版本权重(流量)对应关系的配置,在服务发现和负载均衡层面,进行多版本流量调拨访问控制
    • 基于区域权重配对,通过对消费端和提供端所属区域的权重(流量)对应关系的配置,在服务发现和负载均衡层面,进行多区域流量调拨访问控制
  • 实现用户业务层面的控制
    • 使用者可以通过订阅业务参数的变化,实现特色化的灰度发布,例如,多数据源的数据库切换的灰度发布
  • 实现灰度发布
    • 通过版本的动态改变,实现切换灰度发布
    • 通过版本匹配规则的改变,实现切换灰度发布
    • 通过版本权重规则的改变,实现平滑灰度发布
    • 通过区域匹配规则的改变,实现切换灰度发布
    • 通过区域权重规则的改变,实现平滑灰度发布
  • 实现通过XML或者Json进行上述规则的定义
  • 实现通过事件总线机制(EventBus)的功能,实现发布/订阅功能
    • 对接远程配置中心,集成Nacos和Redis,异步接受远程配置中心主动推送规则信息,动态改变微服务的规则
    • 结合Spring Boot Actuator,异步接受Rest主动推送规则信息,动态改变微服务的规则,支持同步和异步推送两种方式
    • 结合Spring Boot Actuator,动态改变微服务的版本,支持同步和异步推送两种方式
    • 在服务注册层面的控制中,一旦禁止注册的条件触发,主动推送异步事件,以便使用者订阅
  • 实现通过Listener机制进行扩展
    • 使用者可以对服务注册发现核心事件进行监听
  • 实现通过策略扩展,实现灰度控制
    • 使用者可以实现跟业务有关的路由策略,根据业务参数的不同,负载均衡到不同的服务器
    • 使用者可以根据内置的版本路由策略+区域路由策略+IP和端口路由策略+自定义策略,随心所欲的达到需要的路由功能
  • 实现支持Spring Boot Actuator和Swagger集成
  • 实现支持Spring Boot Admin的集成
  • 实现支持Sentinel熔断隔离限流降级的集成
  • 实现支持未来扩展更多的服务注册中心
  • 实现控制平台微服务,支持对规则和版本集中管理、推送、更改和删除
  • 实现基于控制平台微服务的图形化的灰度发布功能

名词解释

  • E版和F版,即Spring Cloud的Edgware和Finchley的首字母,以此类推
  • 切换灰度发布(也叫刚性灰度发布)和平滑灰度发布(也叫柔性灰度发布),切换灰度发布即在灰度发布的时候,没有过渡过程,流量直接从旧版本切换到新版本;平滑灰度发布即在灰度发布的时候,有个过渡过程,可以根据实际情况,先给新版本分配低额流量,给旧版本分配高额流量,对新版本进行监测,如果没有问题,就继续把旧版的流量切换到新版本上
  • IP地址,即根据微服务上报的它所在机器的IP地址。本系统内部强制以IP地址上报,禁止HostName上报,杜绝Spring Cloud应用在Docker或者Kubernetes部署时候出现问题
  • 规则定义和策略定义,规则定义即通过XML或者Json定义既有格式的规则;策略定义即通过Http Header的策略方式传递路由信息
  • 本地版本,即初始化读取本地配置文件获取的版本,也可以是第一次读取远程配置中心获取的版本。本地版本和初始版本是同一个概念
  • 动态版本,即灰度发布时的版本。动态版本和灰度版本是同一个概念
  • 本地规则,即初始化读取本地配置文件获取的规则,也可以是第一次读取远程配置中心获取的规则。本地规则和初始规则是同一个概念
  • 动态规则,即灰度发布时的规则。动态规则和灰度规则是同一个概念
  • 事件总线,即基于Google Guava的EventBus构建的组件。通过事件总线可以推送动态版本和动态规则的更新和删除
  • 远程配置中心,即可以存储规则配置XML格式的配置中心,可以包括不限于Nacos,Redis,Apollo,DisConf,Spring Cloud Config
  • 配置(Config)和规则(Rule),在本系统中属于同一个概念,例如更新配置,即更新规则;例如远程配置中心存储的配置,即规则XML
  • 服务端口和管理端口,即服务端口指在配置文件的server.port值,管理端口指management.port(E版)值或者management.server.port(F版或以上)值

架构工程

架构

服务治理架构图

Alt text

全局架构图

Alt text

模块结构图

Alt text

工程

工程名 描述
discovery-common 通用模块
discovery-common-apollo 封装Apollo通用操作逻辑
discovery-common-nacos 封装Nacos通用操作逻辑
discovery-common-redis 封装Redis通用操作逻辑
discovery-plugin-framework 核心框架
discovery-plugin-framework-eureka 核心框架服务注册发现的Eureka实现
discovery-plugin-framework-consul 核心框架服务注册发现的Consul实现
discovery-plugin-framework-zookeeper 核心框架服务注册发现的Zookeeper实现
discovery-plugin-framework-nacos 核心框架服务注册发现的Nacos实现
discovery-plugin-config-center 配置中心实现
discovery-plugin-config-center-starter-apollo 配置中心的Apollo Starter
discovery-plugin-config-center-starter-nacos 配置中心的Nacos Starter
discovery-plugin-config-center-starter-redis 配置中心的Redis Starter
discovery-plugin-admin-center 管理中心实现
discovery-plugin-starter-eureka 核心Eureka Starter
discovery-plugin-starter-consul 核心Consul Starter
discovery-plugin-starter-zookeeper 核心Zookeeper Starter
discovery-plugin-starter-nacos 核心Nacos Starter
discovery-plugin-strategy 路由策略
discovery-plugin-strategy-sentinel 路由策略的Sentinel
discovery-plugin-strategy-sentinel-starter-local 路由策略的Sentinel Local Starter
discovery-plugin-strategy-sentinel-starter-apollo 路由策略的Sentinel Apollo Starter
discovery-plugin-strategy-sentinel-starter-nacos 路由策略的Sentinel Nacos Starter
discovery-plugin-strategy-starter-service 路由策略的Service Starter
discovery-plugin-strategy-starter-service-sentinel 路由策略的Service Sentinel Starter
discovery-plugin-strategy-starter-zuul 路由策略的Zuul Starter
discovery-plugin-strategy-starter-gateway 路由策略的Spring Cloud Gateway Starter
discovery-plugin-strategy-starter-hystrix 路由策略下,Hystrix做线程模式的服务隔离必须引入的插件 Starter
discovery-plugin-test-starter 自动化测试 Starter
discovery-console 控制平台,集成接口给UI
discovery-console-starter-apollo 控制平台的Apollo Starter
discovery-console-starter-nacos 控制平台的Nacos Starter
discovery-console-starter-redis 控制平台的Redis Starter
discovery-console-desktop 图形化灰度发布等桌面程序
discovery-springcloud-example-admin Spring Boot Admin服务台示例
discovery-springcloud-example-console 控制平台示例
discovery-springcloud-example-eureka Eureka服务器示例
discovery-springcloud-example-service 用于灰度发布的微服务示例
discovery-springcloud-example-zuul 用于灰度发布的Zuul示例
discovery-springcloud-example-gateway 用于灰度发布的Spring Cloud Gateway示例

依赖兼容

依赖

❗下面标注[必须引入]是一定要引入的包,标注[选择引入]是可以选择一个引入,或者不引入

核心插件引入,支持微服务端、网关Zuul端和网关Spring Cloud Gateway端,包括核心灰度发布功能,管理中心,配置中心等

[必须引入] 四个服务注册发现的中间件的增强插件,请任选一个引入
<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-starter-eureka</artifactId>
    <artifactId>discovery-plugin-starter-consul</artifactId>
    <artifactId>discovery-plugin-starter-zookeeper</artifactId>
    <artifactId>discovery-plugin-starter-nacos</artifactId>
    <version>${discovery.version}</version>
</dependency>

[选择引入] 三个远程配置中心的中间件的扩展插件,如需要,请任选一个引入,或者也可以引入您自己的扩展
<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-config-center-starter-apollo</artifactId>
    <artifactId>discovery-plugin-config-center-starter-nacos</artifactId>
    <artifactId>discovery-plugin-config-center-starter-redis</artifactId>
    <version>${discovery.version}</version>
</dependency>

扩展功能引入,支持微服务端、网关Zuul端和网关Spring Cloud Gateway端,包括内置版本路由、区域路由、自定义和编程灰度路由

微服务端引入
[选择引入] 路由策略,如需要,请引入
<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-strategy-starter-service</artifactId>
    <version>${discovery.version}</version>
</dependency>

网关Zuul端引入
[选择引入] 路由策略,如需要,请引入
<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-strategy-starter-zuul</artifactId>
    <version>${discovery.version}</version>
</dependency>

网关Spring Cloud Gateway端引入
[选择引入] 路由策略,如需要,请引入
<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-strategy-starter-gateway</artifactId>
    <version>${discovery.version}</version>
</dependency>

[选择引入] 路由策略时候,Hystrix做线程模式的服务隔离必须引入的插件,信号量模式不需要引入

<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-strategy-starter-hystrix</artifactId>
    <version>${discovery.version}</version>
</dependency>

控制平台引入

[选择引入] 三个远程配置中心的中间件的扩展插件,如需要,请任选一个引入,或者也可以引入您自己的扩展
<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-console-starter-apollo</artifactId>
    <artifactId>discovery-console-starter-nacos</artifactId>
    <artifactId>discovery-console-starter-redis</artifactId>
    <version>${discovery.version}</version>
</dependency>

⚠️特别注意:中间件的引入一定要在所有层面保持一致,绝不允许出现类似如下情况,这也是常识

  • 例如,网关用Eureka做服务注册发现,微服务用Consul做服务注册发现
  • 例如,控制平台用Nacos做远程配置中心,微服务用Redis做远程配置中心

⭐如果只想要灰度路由策略功能,而不想要灰度发布功能

  • 灰度路由策略是可以不需要接入远程配置中心的,所以建议去除远程配置中心包的引入
<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-config-center-starter-xxx</artifactId>
    <version>${discovery.version}</version>
</dependency>
  • 灰度路由策略是不会对服务注册发现等逻辑产生影响,所以建议下面两项配置改为false
# 开启和关闭服务注册层面的控制一旦关闭服务注册的黑/白名单过滤功能将失效最大注册数的限制过滤功能将失效缺失则默认为true
spring.application.register.control.enabled=false
# 开启和关闭服务发现层面的控制一旦关闭服务多版本调用的控制功能将失效动态屏蔽指定IP地址的服务实例被发现的功能将失效缺失则默认为true
spring.application.discovery.control.enabled=false

服务端Sentinel防护插件的引入

<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-strategy-starter-service-sentinel</artifactId>
    <version>${discovery.version}</version>
</dependency>

[选择引入] Sentinel数据源,如需要,请任选一个引入,或者也可以引入您自己的扩展
<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-strategy-sentinel-starter-nacos</artifactId>
    <artifactId>discovery-plugin-strategy-sentinel-starter-apollo</artifactId>
    <artifactId>discovery-plugin-strategy-sentinel-starter-local</artifactId>
    <version>${discovery.version}</version>
</dependency>

自动化测试插件的引入

<dependency>
    <groupId>com.nepxion</groupId>
    <artifactId>discovery-plugin-test-starter</artifactId>
    <version>${discovery.version}</version>
</dependency>

兼容

版本兼容情况

  • Spring Cloud G版,请采用5.x.x版本,具体代码参考master分支
  • Spring Cloud F版,请采用4.x.x版本,具体代码参考Finchley分支
  • Spring Cloud E版,请采用3.x.x版本,具体代码参考Edgware分支
  • 3.x.x版本和其它版本功能完全一致,但在Endpoint的URL使用方式上稍微有个小的区别。例如

中间件兼容情况

规则定义

规则是基于XML或者Json为配置方式,存储于本地文件或者远程配置中心,可以通过远程配置中心修改的方式达到规则动态化。其核心代码参考discovery-plugin-framework以及它的扩展、discovery-plugin-config-center以及它的扩展和discovery-plugin-admin-center等

规则示例

XML示例(Json示例见discovery-springcloud-example-service下的rule.json)

⚠️特别注意:服务名大小写规则

  • 在配置文件(application.properties、application.yaml等)里,定义服务名(spring.application.name)不区分大小写
  • 在规则文件(XML、Json)里,引用的服务名必须小写
  • 在Nacos、Apollo、Redis等远程配置中心的Key,包含的服务名必须小写
<?xml version="1.0" encoding="UTF-8"?>
<rule>
    <!-- 如果不想开启相关功能,只需要把相关节点删除即可,例如不想要黑名单功能,把blacklist节点删除 -->
    <register>
        <!-- 服务注册的黑/白名单注册过滤,只在服务启动的时候生效。白名单表示只允许指定IP地址前缀注册,黑名单表示不允许指定IP地址前缀注册。每个服务只能同时开启要么白名单,要么黑名单 -->
        <!-- filter-type,可选值blacklist/whitelist,表示白名单或者黑名单 -->
        <!-- service-name,表示服务名 -->
        <!-- filter-value,表示黑/白名单的IP地址列表。IP地址一般用前缀来表示,如果多个用“;”分隔,不允许出现空格 -->
        <!-- 表示下面所有服务,不允许10.10和11.11为前缀的IP地址注册(全局过滤) -->
        <blacklist filter-value="10.10;11.11">
            <!-- 表示下面服务,不允许172.16和10.10和11.11为前缀的IP地址注册 -->
            <service service-name="discovery-springcloud-example-a" filter-value="172.16"/>
        </blacklist>

        <!-- <whitelist filter-value="">
            <service service-name="" filter-value=""/>
        </whitelist>  -->

        <!-- 服务注册的数目限制注册过滤,只在服务启动的时候生效。当某个服务的实例注册达到指定数目时候,更多的实例将无法注册 -->
        <!-- service-name,表示服务名 -->
        <!-- filter-value,表示最大实例注册数 -->
        <!-- 表示下面所有服务,最大实例注册数为10000(全局配置) -->
        <count filter-value="10000">
            <!-- 表示下面服务,最大实例注册数为5000,全局配置值10000将不起作用,以局部配置值为准 -->
            <service service-name="discovery-springcloud-example-a" filter-value="5000"/>
        </count>
    </register>

    <discovery>
        <!-- 服务发现的黑/白名单发现过滤,使用方式跟“服务注册的黑/白名单过滤”一致 -->
        <!-- 表示下面所有服务,不允许10.10和11.11为前缀的IP地址被发现(全局过滤) -->
        <blacklist filter-value="10.10;11.11">
            <!-- 表示下面服务,不允许172.16和10.10和11.11为前缀的IP地址被发现 -->
            <service service-name="discovery-springcloud-example-b" filter-value="172.16"/>
        </blacklist>

        <!-- 服务发现的多版本灰度匹配控制 -->
        <!-- service-name,表示服务名 -->
        <!-- version-value,表示可供访问的版本,如果多个用“;”分隔,不允许出现空格 -->
        <!-- 版本策略介绍 -->
        <!-- 1. 标准配置,举例如下 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-version-value="1.0" provider-version-value="1.0;1.1"/> 表示消费端1.0版本,允许访问提供端1.0和1.1版本 -->
        <!-- 2. 版本值不配置,举例如下 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" provider-version-value="1.0;1.1"/> 表示消费端任何版本,允许访问提供端1.0和1.1版本 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-version-value="1.0"/> 表示消费端1.0版本,允许访问提供端任何版本 -->
        <!--    <service consumer-service-name="a" provider-service-name="b"/> 表示消费端任何版本,允许访问提供端任何版本 -->
        <!-- 3. 版本值空字符串,举例如下 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-version-value="" provider-version-value="1.0;1.1"/> 表示消费端任何版本,允许访问提供端1.0和1.1版本 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-version-value="1.0" provider-version-value=""/> 表示消费端1.0版本,允许访问提供端任何版本 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-version-value="" provider-version-value=""/> 表示消费端任何版本,允许访问提供端任何版本 -->
        <!-- 4. 版本对应关系未定义,默认消费端任何版本,允许访问提供端任何版本 -->
        <!-- 特殊情况处理,在使用上需要极力避免该情况发生 -->
        <!-- 1. 消费端的application.properties未定义版本号,则该消费端可以访问提供端任何版本 -->
        <!-- 2. 提供端的application.properties未定义版本号,当消费端在xml里不做任何版本配置,才可以访问该提供端 -->
        <version>
            <!-- 表示网关g的1.0,允许访问提供端服务a的1.0版本 -->
            <service consumer-service-name="discovery-springcloud-example-gateway" provider-service-name="discovery-springcloud-example-a" consumer-version-value="1.0" provider-version-value="1.0"/>
            <!-- 表示网关g的1.1,允许访问提供端服务a的1.1版本 -->
            <service consumer-service-name="discovery-springcloud-example-gateway" provider-service-name="discovery-springcloud-example-a" consumer-version-value="1.1" provider-version-value="1.1"/>
            <!-- 表示网关z的1.0,允许访问提供端服务a的1.0版本 -->
            <service consumer-service-name="discovery-springcloud-example-zuul" provider-service-name="discovery-springcloud-example-a" consumer-version-value="1.0" provider-version-value="1.0"/>
            <!-- 表示网关z的1.1,允许访问提供端服务a的1.1版本 -->
            <service consumer-service-name="discovery-springcloud-example-zuul" provider-service-name="discovery-springcloud-example-a" consumer-version-value="1.1" provider-version-value="1.1"/>
            <!-- 表示消费端服务a的1.0,允许访问提供端服务b的1.0版本 -->
            <service consumer-service-name="discovery-springcloud-example-a" provider-service-name="discovery-springcloud-example-b" consumer-version-value="1.0" provider-version-value="1.0"/>
            <!-- 表示消费端服务a的1.1,允许访问提供端服务b的1.1版本 -->
            <service consumer-service-name="discovery-springcloud-example-a" provider-service-name="discovery-springcloud-example-b" consumer-version-value="1.1" provider-version-value="1.1"/>
            <!-- 表示消费端服务b的1.0,允许访问提供端服务c的1.0和1.1版本 -->
            <service consumer-service-name="discovery-springcloud-example-b" provider-service-name="discovery-springcloud-example-c" consumer-version-value="1.0" provider-version-value="1.0;1.1"/>
            <!-- 表示消费端服务b的1.1,允许访问提供端服务c的1.2版本 -->
            <service consumer-service-name="discovery-springcloud-example-b" provider-service-name="discovery-springcloud-example-c" consumer-version-value="1.1" provider-version-value="1.2"/>
        </version>

        <!-- 服务发现的多区域灰度匹配控制 -->
        <!-- service-name,表示服务名 -->
        <!-- region-value,表示可供访问的区域,如果多个用“;”分隔,不允许出现空格 -->
        <!-- 区域策略介绍 -->
        <!-- 1. 标准配置,举例如下 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-region-value="dev" provider-region-value="dev"/> 表示dev区域的消费端,允许访问dev区域的提供端 -->
        <!-- 2. 区域值不配置,举例如下 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" provider-region-value="dev;qa"/> 表示任何区域的消费端,允许访问dev区域和qa区域的提供端 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-region-value="dev"/> 表示dev区域的消费端,允许访问任何区域的提供端 -->
        <!--    <service consumer-service-name="a" provider-service-name="b"/> 表示任何区域的消费端,允许访问任何区域的提供端 -->
        <!-- 3. 区域值空字符串,举例如下 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-region-value="" provider-region-value="dev;qa"/> 表示任何区域的消费端,允许访问dev区域和qa区域的提供端 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-region-value="dev" provider-region-value=""/> 表示dev区域的消费端,允许访问任何区域的提供端 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" consumer-region-value="" provider-region-value=""/> 表示任何区域的消费端,允许访问任何区域的提供端 -->
        <!-- 4. 区域对应关系未定义,默认表示任何区域的消费端,允许访问任何区域的提供端 -->
        <!-- 特殊情况处理,在使用上需要极力避免该情况发生 -->
        <!-- 1. 消费端的application.properties未定义区域值,则该消费端可以访问任何区域的提供端 -->
        <!-- 2. 提供端的application.properties未定义区域值,当消费端在xml里不做任何区域配置,才可以访问该提供端 -->
        <region>
            <!-- 表示dev区域的消费端服务a,允许访问dev区域的提供端服务b -->
            <service consumer-service-name="discovery-springcloud-example-a" provider-service-name="discovery-springcloud-example-b" consumer-region-value="dev" provider-region-value="dev"/>
            <!-- 表示qa区域的消费端服务a,允许访问qa区域的提供端服务b -->
            <service consumer-service-name="discovery-springcloud-example-a" provider-service-name="discovery-springcloud-example-b" consumer-region-value="qa" provider-region-value="qa"/>
            <!-- 表示dev区域的消费端服务b,允许访问dev区域的提供端服务c -->
            <service consumer-service-name="discovery-springcloud-example-b" provider-service-name="discovery-springcloud-example-c" consumer-region-value="dev" provider-region-value="dev"/>
            <!-- 表示qa区域的消费端服务b,允许访问qa区域的提供端服务c -->
            <service consumer-service-name="discovery-springcloud-example-b" provider-service-name="discovery-springcloud-example-c" consumer-region-value="qa" provider-region-value="qa"/>
        </region>

        <!-- 服务发现的多版本或者多区域的灰度权重控制 -->
        <!-- service-name,表示服务名 -->
        <!-- weight-value,表示版本对应的权重值,格式为"版本/区域值=权重值",如果多个用“;”分隔,不允许出现空格 -->
        <!-- 版本权重策略介绍 -->
        <!-- 1. 标准配置,举例如下 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" provider-weight-value="1.0=90;1.1=10"/> 表示消费端访问提供端的时候,提供端的1.0版本提供90%的权重流量,1.1版本提供10%的权重流量 -->
        <!--    <service provider-service-name="b" provider-weight-value="1.0=90;1.1=10"/> 表示所有消费端访问提供端的时候,提供端的1.0版本提供90%的权重流量,1.1版本提供10%的权重流量 -->
        <!-- 2. 局部配置,即指定consumer-service-name,专门为该消费端配置权重。全局配置,即不指定consumer-service-name,为所有消费端配置相同情形的权重。当局部配置和全局配置同时存在的时候,以局部配置优先 -->
        <!-- 3. 尽量为线上所有版本都赋予权重值 -->
        <!-- 全局版本权重策略介绍 -->
        <!-- 1. 标准配置,举例如下 -->
        <!--    <version provider-weight-value="1.0=85;1.1=15"/> 表示版本为1.0的服务提供85%的权重流量,版本为1.1的服务提供15%的权重流量 -->
        <!-- 2. 全局版本权重可以切换整条调用链的权重配比 -->
        <!-- 3. 尽量为线上所有版本都赋予权重值   -->

        <!-- 区域权重策略介绍 -->
        <!-- 1. 标准配置,举例如下 -->
        <!--    <service consumer-service-name="a" provider-service-name="b" provider-weight-value="dev=85;qa=15"/> 表示消费端访问提供端的时候,区域为dev的服务提供85%的权重流量,区域为qa的服务提供15%的权重流量 -->
        <!--    <service provider-service-name="b" provider-weight-value="dev=85;qa=15"/> 表示所有消费端访问提供端的时候,区域为dev的服务提供85%的权重流量,区域为qa的服务提供15%的权重流量 -->
        <!-- 2. 局部配置,即指定consumer-service-name,专门为该消费端配置权重。全局配置,即不指定consumer-service-name,为所有消费端配置相同情形的权重。当局部配置和全局配置同时存在的时候,以局部配置优先 -->
        <!-- 3. 尽量为线上所有版本都赋予权重值 -->
        <!-- 全局区域权重策略介绍 -->
        <!-- 1. 标准配置,举例如下 -->
        <!--    <region provider-weight-value="dev=85;qa=15"/> 表示区域为dev的服务提供85%的权重流量,区域为qa的服务提供15%的权重流量 -->
        <!-- 2. 全局区域权重可以切换整条调用链的权重配比 -->
        <!-- 3. 尽量为线上所有区域都赋予权重值 -->
        <weight>
            <!-- 权重流量配置有如下六种方式,优先级分别是由高到底,即先从第一种方式取权重流量值,取不到则到第二种方式取值,以此类推,最后仍取不到则忽略。使用者按照实际情况,选择一种即可 -->
            <!-- 表示消费端服务b访问提供端服务c的时候,提供端服务c的1.0版本提供90%的权重流量,1.1版本提供10%的权重流量 -->
            <service consumer-service-name="discovery-springcloud-example-b" provider-service-name="discovery-springcloud-example-c" provider-weight-value="1.0=90;1.1=10" type="version"/>
            <!-- 表示所有消费端服务访问提供端服务c的时候,提供端服务c的1.0版本提供90%的权重流量,1.1版本提供10%的权重流量 -->
            <service provider-service-name="discovery-springcloud-example-c" provider-weight-value="1.0=90;1.1=10" type="version"/>
            <!-- 表示所有版本为1.0的服务提供90%的权重流量,版本为1.1的服务提供10%的权重流量 -->
            <version provider-weight-value="1.0=90;1.1=10"/>

            <!-- 表示消费端服务b访问提供端服务c的时候,提供端服务c的dev区域提供85%的权重流量,qa区域提供15%的权重流量 -->
            <service consumer-service-name="discovery-springcloud-example-b" provider-service-name="discovery-springcloud-example-c" provider-weight-value="dev=85;qa=15" type="region"/>
            <!-- 表示所有消费端服务访问提供端服务c的时候,提供端服务c的dev区域提供85%的权重流量,qa区域提供15%的权重流量 -->
            <service provider-service-name="discovery-springcloud-example-c" provider-weight-value="dev=85;qa=15" type="region"/>
            <!-- 表示所有区域为dev的服务提供85%的权重流量,区域为qa的服务提供15%的权重流量 -->
            <region provider-weight-value="dev=85;qa=15"/>
        </weight>
    </discovery>

    <!-- 基于Http Header传递的策略路由,全局缺省路由 -->
    <strategy>
        <!-- 版本路由 -->
        <version>{"discovery-springcloud-example-a":"1.0", "discovery-springcloud-example-b":"1.0", "discovery-springcloud-example-c":"1.0;1.2"}</version>
        <!-- <version>1.0</version> -->
        <!-- 区域路由 -->
        <region>{"discovery-springcloud-example-a":"qa;dev", "discovery-springcloud-example-b":"dev", "discovery-springcloud-example-c":"qa"}</region>
        <!-- <region>dev</region> -->
        <!-- IP和端口路由 -->
        <address>{"discovery-springcloud-example-a":"192.168.43.101:1100", "discovery-springcloud-example-b":"192.168.43.101:1201", "discovery-springcloud-example-c":"192.168.43.101:1300"}</address>
        <!-- 权重流量配置有如下四种方式,优先级分别是由高到底,即先从第一种方式取权重流量值,取不到则到第二种方式取值,以此类推,最后仍取不到则忽略。使用者按照实际情况,选择一种即可 -->
        <!-- 版本权重路由 -->
        <version-weight>{"discovery-springcloud-example-a":"1.0=90;1.1=10", "discovery-springcloud-example-b":"1.0=90;1.1=10", "discovery-springcloud-example-c":"1.0=90;1.1=10"}</version-weight>
        <!-- <version-weight>1.0=90;1.1=10</version-weight> -->
        <!-- 区域权重路由 -->
        <region-weight>{"discovery-springcloud-example-a":"dev=85;qa=15", "discovery-springcloud-example-b":"dev=85;qa=15", "discovery-springcloud-example-c":"dev=85;qa=15"}</region-weight>
        <!-- <region-weight>dev=85;qa=15</region-weight> -->
    </strategy>

    <!-- 基于Http Header传递的策略路由,客户定制化控制,跟业务参数绑定。如果不命中,则执行上面的全局缺省路由 -->
    <strategy-customization>
        <conditions>
            <condition id="1" header="a=1;b=2" version-id="a" region-id="b" address-id="c" version-weight-id="d" region-weight-id="e"/>
            <condition id="2" header="c=3" version-id="a" region-id="b"/>
        </conditions>

        <routes>
            <route id="a" type="version">{"discovery-springcloud-example-a":"1.0", "discovery-springcloud-example-b":"1.0", "discovery-springcloud-example-c":"1.0;1.2"}</route>
            <route id="b" type="region">{"discovery-springcloud-example-a":"qa;dev", "discovery-springcloud-example-b":"dev", "discovery-springcloud-example-c":"qa"}</route>
            <route id="c" type="address">{"discovery-springcloud-example-a":"192.168.43.101:1100", "discovery-springcloud-example-b":"192.168.43.101:1201", "discovery-springcloud-example-c":"192.168.43.101:1300"}</route>            
            <route id="d" type="version-weight">{"discovery-springcloud-example-a":"1.0=90;1.1=10", "discovery-springcloud-example-b":"1.0=90;1.1=10", "discovery-springcloud-example-c":"1.0=90;1.1=10"}</route>
            <route id="e" type="region-weight">{"discovery-springcloud-example-a":"dev=85;qa=15", "discovery-springcloud-example-b":"dev=85;qa=15", "discovery-springcloud-example-c":"dev=85;qa=15"}</route>
        </routes>
    </strategy-customization>

    <!-- 参数控制,由远程推送参数的改变,实现一些特色化的灰度发布,例如,基于数据库的灰度发布 -->
    <parameter>
        <!-- 服务a和c分别有两个库的配置,分别是测试数据库(database的value为qa)和生产数据库(database的value为prod) -->
        <!-- 上线后,一开始数据库指向测试数据库,对应value为qa,然后灰度发布的时候,改对应value为prod,即实现数据库的灰度发布 -->
        <service service-name="discovery-springcloud-example-a" key="database" value="qa"/>
        <service service-name="discovery-springcloud-example-c" key="database" value="prod"/>
    </parameter>
</rule>

黑/白名单的IP地址注册的过滤规则

微服务启动的时候,禁止指定的IP地址注册到服务注册发现中心。支持黑/白名单,白名单表示只允许指定IP地址前缀注册,黑名单表示不允许指定IP地址前缀注册。规则如何使用,见示例说明

  • 全局过滤,指注册到服务注册发现中心的所有微服务,只有IP地址包含在全局过滤字段的前缀中,都允许注册(对于白名单而言),或者不允许注册(对于黑名单而言)
  • 局部过滤,指专门针对某个微服务而言,那么真正的过滤条件是全局过滤+局部过滤结合在一起

最大注册数的限制的过滤规则

微服务启动的时候,一旦微服务集群下注册的实例数目已经达到上限(可配置),将禁止后续的微服务进行注册。规则如何使用,见示例说明

  • 全局配置值,只下面配置所有的微服务集群,最多能注册多少个
  • 局部配置值,指专门针对某个微服务而言,那么该值如存在,全局配置值失效

黑/白名单的IP地址发现的过滤规则

微服务启动的时候,禁止指定的IP地址被服务发现。它使用的方式和“黑/白名单的IP地址注册的过滤规则”一致

版本匹配的灰度发布规则

1. 标准配置,举例如下
   <service consumer-service-name="a" provider-service-name="b" consumer-version-value="1.0" provider-version-value="1.0;1.1"/> 表示消费端1.0版本,允许访问提供端1.0和1.1版本
2. 版本值不配置,举例如下
   <service consumer-service-name="a" provider-service-name="b" provider-version-value="1.0;1.1"/> 表示消费端任何版本,允许访问提供端1.0和1.1版本
   <service consumer-service-name="a" provider-service-name="b" consumer-version-value="1.0"/> 表示消费端1.0版本,允许访问提供端任何版本
   <service consumer-service-name="a" provider-service-name="b"/> 表示消费端任何版本,允许访问提供端任何版本
3. 版本值空字符串,举例如下
   <service consumer-service-name="a" provider-service-name="b" consumer-version-value="" provider-version-value="1.0;1.1"/> 表示消费端任何版本,允许访问提供端1.0和1.1版本
   <service consumer-service-name="a" provider-service-name="b" consumer-version-value="1.0" provider-version-value=""/> 表示消费端1.0版本,允许访问提供端任何版本
   <service consumer-service-name="a" provider-service-name="b" consumer-version-value="" provider-version-value=""/> 表示消费端任何版本,允许访问提供端任何版本
4. 版本对应关系未定义,默认消费端任何版本,允许访问提供端任何版本

特殊情况处理,在使用上需要极力避免该情况发生
1. 消费端的application.properties未定义版本号,则该消费端可以访问提供端任何版本
2. 提供端的application.properties未定义版本号,当消费端在xml里不做任何版本配置,才可以访问该提供端

版本权重的灰度发布规则

1. 标准配置,举例如下
   <service consumer-service-name="a" provider-service-name="b" provider-weight-value="1.0=90;1.1=10"/> 表示消费端访问提供端的时候,提供端的1.0版本提供90%的权重流量,1.1版本提供10%的权重流量
   <service provider-service-name="b" provider-weight-value="1.0=90;1.1=10"/> 表示所有消费端访问提供端的时候,提供端的1.0版本提供90%的权重流量,1.1版本提供10%的权重流量
2. 局部配置,即指定consumer-service-name,专门为该消费端配置权重。全局配置,即不指定consumer-service-name,为所有消费端配置相同情形的权重。当局部配置和全局配置同时存在的时候,以局部配置优先
3. 尽量为线上所有版本都赋予权重值

全局版本权重的灰度发布规则

1. 标准配置,举例如下
   <version provider-weight-value="1.0=85;1.1=15"/> 表示版本为1.0的服务提供85%的权重流量,版本为1.1的服务提供15%的权重流量
2. 全局版本权重可以切换整条调用链的权重配比
3. 尽量为线上所有版本都赋予权重值

区域匹配的灰度发布规则

1. 标准配置,举例如下
   <service consumer-service-name="a" provider-service-name="b" consumer-region-value="dev" provider-region-value="dev"/> 表示dev区域的消费端,允许访问dev区域的提供端
2. 区域值不配置,举例如下
   <service consumer-service-name="a" provider-service-name="b" provider-region-value="dev;qa"/> 表示任何区域的消费端,允许访问dev区域和qa区域的提供端
   <service consumer-service-name="a" provider-service-name="b" consumer-region-value="dev"/> 表示dev区域的消费端,允许访问任何区域的提供端
   <service consumer-service-name="a" provider-service-name="b"/> 表示任何区域的消费端,允许访问任何区域的提供端
3. 区域值空字符串,举例如下
   <service consumer-service-name="a" provider-service-name="b" consumer-region-value="" provider-region-value="dev;qa"/> 表示任何区域的消费端,允许访问dev区域和qa区域的提供端
   <service consumer-service-name="a" provider-service-name="b" consumer-region-value="dev" provider-region-value=""/> 表示dev区域的消费端,允许访问任何区域的提供端
   <service consumer-service-name="a" provider-service-name="b" consumer-region-value="" provider-region-value=""/> 表示任何区域的消费端,允许访问任何区域的提供端
4. 区域对应关系未定义,默认表示任何区域的消费端,允许访问任何区域的提供端

特殊情况处理,在使用上需要极力避免该情况发生
1. 消费端的application.properties未定义区域值,则该消费端可以访问任何区域的提供端
2. 提供端的application.properties未定义区域值,当消费端在xml里不做任何区域配置,才可以访问该提供端

区域权重的灰度发布规则

1. 标准配置,举例如下
   <service consumer-service-name="a" provider-service-name="b" provider-weight-value="dev=85;qa=15"/> 表示消费端访问提供端的时候,区域为dev的服务提供85%的权重流量,区域为qa的服务提供15%的权重流量
   <service provider-service-name="b" provider-weight-value="dev=85;qa=15"/> 表示所有消费端访问提供端的时候,区域为dev的服务提供85%的权重流量,区域为qa的服务提供15%的权重流量
2. 局部配置,即指定consumer-service-name,专门为该消费端配置权重。全局配置,即不指定consumer-service-name,为所有消费端配置相同情形的权重。当局部配置和全局配置同时存在的时候,以局部配置优先
3. 尽量为线上所有版本都赋予权重值

全局区域权重的灰度发布规则

1. 标准配置,举例如下
   <region provider-weight-value="dev=85;qa=15"/> 表示区域为dev的服务提供85%的权重流量,区域为qa的服务提供15%的权重流量
2. 全局区域权重可以切换整条调用链的权重配比
3. 尽量为线上所有区域都赋予权重值

网关端全链路路由策略的灰度发布规则

1. 标准配置,举例如下
    <strategy>
        <!-- 版本路由 -->
        <version>{"discovery-springcloud-example-a":"1.0", "discovery-springcloud-example-b":"1.0", "discovery-springcloud-example-c":"1.0;1.2"}</version>
        <!-- <version>1.0</version> -->
        <!-- 区域路由 -->
        <region>{"discovery-springcloud-example-a":"qa;dev", "discovery-springcloud-example-b":"dev", "discovery-springcloud-example-c":"qa"}</region>
        <!-- <region>dev</region> -->
        <!-- IP和端口路由 -->
        <address>{"discovery-springcloud-example-a":"192.168.43.101:1100", "discovery-springcloud-example-b":"192.168.43.101:1201", "discovery-springcloud-example-c":"192.168.43.101:1300"}</address>
        <!-- 权重流量配置有如下四种方式,优先级分别是由高到底,即先从第一种方式取权重流量值,取不到则到第二种方式取值,以此类推,最后仍取不到则忽略。使用者按照实际情况,选择一种即可 -->
        <!-- 版本权重路由 -->
        <version-weight>{"discovery-springcloud-example-a":"1.0=90;1.1=10", "discovery-springcloud-example-b":"1.0=90;1.1=10", "discovery-springcloud-example-c":"1.0=90;1.1=10"}</version-weight>
        <!-- <version-weight>1.0=90;1.1=10</version-weight> -->
        <!-- 区域权重路由 -->
        <region-weight>{"discovery-springcloud-example-a":"dev=85;qa=15", "discovery-springcloud-example-b":"dev=85;qa=15", "discovery-springcloud-example-c":"dev=85;qa=15"}</region-weight>
        <!-- <region-weight>dev=85;qa=15</region-weight> -->
    </strategy>
2. 用法和基于Http Header头部传路由参数一致。前置是通过前端或者网关传入,后者是配置在配置文件里。让两者全部启用的时候,以前端或者网关传入Header方式优先

🚩注意

路由策略的入口有三个为例:

  • 从外界传入(例如:Postman),在Header上加入。例如:n-d-version={"discovery-springcloud-example-a":"1.0", "discovery-springcloud-example-b":"1.0", "discovery-springcloud-example-c":"1.0;1.2"}
  • 在网关Zuul或者Spring Cloud Gateway的Filter中指定Header
  • 网关端全链路路由策略的灰度发布规则,在配置中心或者本地rule.xml配置

其作用的优先级

  • 在服务中,Header方式>配置中心或者本地rule.xml配置
  • 在网关中,通过如下配置,决定优先级
# 当外界传值Header的时候网关也设置并传递同名的Header需要决定哪个Header传递到后边的服务去如果下面开关为true以网关设置为优先否则以外界传值为优先缺失则默认为true
spring.application.strategy.gateway.header.priority=false

# 当外界传值Header的时候网关也设置并传递同名的Header需要决定哪个Header传递到后边的服务去如果下面开关为true以网关设置为优先否则以外界传值为优先缺失则默认为true
spring.application.strategy.zuul.header.priority=false

自定义的灰度发布规则

通过订阅业务参数的变化,实现参数化灰度发布,例如,多数据源的数据库切换的灰度发布

1. 标准配置,举例如下
   <service service-name="discovery-springcloud-example-a" key="database" value="prod"/>
2. 上述示例,是基于多数据源的数据库切换的灰度发布
   服务a有两个库的配置,分别是测试数据库(database的value为qa)和生产数据库(database的value为prod)
   上线后,一开始数据库指向测试数据库,对应value为qa,然后灰度发布的时候,改对应value为prod,即实现数据库的灰度发布

动态改变规则

微服务启动的时候,由于规则(例如:rule.xml)已经配置在本地,使用者希望改变一下规则,而不重启微服务,达到规则的改变

  • 规则分为本地规则和动态规则
  • 本地规则是通过在本地规则(例如:rule.xml)文件定义的,也可以从远程配置中心获取,在微服务启动的时候读取
  • 动态规则是通过POST方式动态设置,或者由远程配置中心推送设置
  • 规则初始化的时候,如果接入了远程配置中心,先读取远程规则,如果不存在,再读取本地规则文件
  • 多规则灰度获取规则的时候,先获取动态规则,如果不存在,再获取本地规则
  • 规则可以持久化到远程配置中心,一旦微服务死掉后,再次启动,仍旧可以拿到灰度规则,所以动态改变规则策略属于永久灰度发布手段
  • 规则推送到远程配置中心可以分为局部推送和全局推送
    • 局部推送是基于Group+ServiceId来推送的,就是同一个Group下同一个ServiceId的服务集群独立拥有一个规则配置,如果采用这种方式,需要在每个微服务集群下做一次灰度发布。优点是独立封闭,本服务集群灰度发布失败不会影响到其它服务集群,缺点是相对繁琐
    • 全局推送是基于Group来推送的(接口参数中的ServiceId由Group来代替),就是同一个Group下所有服务集群共同拥有一个规则配置,如果采用这种方式,只需要做一次灰度发布,所有服务集群都生效。优点是非常简便,缺点具有一定风险,因为这个规则配置掌握着所有服务集群的命运。全局推送用于全链路灰度发布
    • 如果既执行了全局推送,又执行了局部推送,那么,当服务运行中,优先接受最后一次推送的规则;当服务重新启动的时候,优先读取局部推送的规则

动态改变版本

注意:动态改变版本,只允许发生在调用链的起点,例如网关,如果没有网关,则取第一个服务。其它服务不使用修改版本

微服务启动的时候,由于版本已经写死在application.properties里,使用者希望改变一下版本,而不重启微服务,达到访问版本的路径改变

  • 版本分为本地版本和动态版本
  • 本地版本是通过在application.properties里配置的,在微服务启动的时候读取
  • 动态版本是通过POST方式动态设置
  • 多版本灰度获取版本值的时候,先获取动态版本,如果不存在,再获取本地版本
  • 版本不会持久化到远程配置中心,一旦微服务死掉后,再次启动,拿到的还是本地版本,所以动态改变版本策略属于临时灰度发布手段

策略定义

策略是通过REST或者RPC调用传递Header或者参数,达到路由策略的目的。使用者可以实现跟业务有关的路由策略,根据业务参数的不同,负载均衡到不同的服务器,其核心代码参考discovery-plugin-strategy以及它的扩展

服务端的灰度路由策略

基于服务端的灰度路由,实现DiscoveryEnabledStrategy,通过RequestContextHolder(获取来自网关的Header参数)和ServiceStrategyContext(获取来自RPC方式的方法参数)获取业务上下文参数,进行路由自定义

Zuul端的灰度路由策略

基于Zuul端的灰度路由,实现DiscoveryEnabledStrategy,通过Zuul自带的RequestContext(获取来自网关的Header参数)获取业务上下文参数,进行路由自定义

Gateway端的灰度路由策略

基于Spring Cloud Gateway端的灰度路由,实现DiscoveryEnabledStrategy,通过GatewayStrategyContext(获取来自网关的Header参数)获取业务上下文参数,进行路由自定义

REST调用的内置多版本灰度路由策略

基于Feign/RestTemplate的REST调用的多版本灰度路由,在Header上传入服务名和版本对应关系的Json字符串,如下表示,如果REST请求要经过a,b,c三个服务,那么只有a服务的1.0版本,b服务的1.1版本,c服务的1.1或1.2版本,允许被调用到 Header的Key为"n-d-version",value为:

{"discovery-springcloud-example-a":"1.0", "discovery-springcloud-example-b":"1.1", "discovery-springcloud-example-c":"1.1;1.2"}

如果,链路调用中所有的服务都是指定某个版本(例如1.1),那么value的格式可以简化,不需要Json字符串,直接是

1.1

如果上述表达式还未满足需求,也可以采用通配符(具体详细用法,参考Spring AntPathMatcher)

"discovery-springcloud-example-c":"1.*;1.2.?" - 表示c服务的版本调用范围是1开头的所有版本,或者是1.2开头的所有版本(末尾必须是1个字符)
* - 表示调用范围为所有服务的所有版本
1.* - 表示调用范围为所有服务的1开头的所有版本

多版本灰度路由架构图 Alt text

REST调用的内置多区域灰度路由策略

基于Feign/RestTemplate的REST调用的多区域灰度路由,在Header上传入服务名和版本对应关系的Json字符串,如下表示,如果REST请求要经过a,b,c三个服务,那么只有dev区域的a服务,qa区域的b服务,dev和qa区域c服务,允许被调用到 Header的Key为"n-d-region",value为:

{"discovery-springcloud-example-a":"dev", "discovery-springcloud-example-b":"qa", "discovery-springcloud-example-c":"dev;qa"}

如果,链路调用中所有的服务都是指定某个区域(例如dev),那么value的格式可以简化,不需要Json字符串,直接是

dev

如果上述表达式还未满足需求,也可以采用通配符(具体详细用法,参考Spring AntPathMatcher)

"discovery-springcloud-example-c":"d*;q?" - 表示c服务的区域调用范围是d开头的所有区域,或者是q开头的所有区域(末尾必须是1个字符)
* - 表示调用范围为所有服务的所有区域
d* - 表示调用范围为所有服务的d开头的所有区域

多区域灰度路由架构图 Alt text

⚠️特别注意:Spring Cloud内置zone的策略,功能跟region策略很相似,但zone策略不能跟自定义路由组合使用,故提供了更友好的region策略

REST调用的内置多IP和端口灰度路由策略

基于Feign/RestTemplate的REST调用的多版本灰度路由,在Header上传入服务名和版本对应关系的Json字符串,如下表示,如果REST请求要经过a,b,c三个服务,那么只需要指定三个服务所给定的IP(或者IP和端口组合),允许被调用到 Header的Key为"n-d-address",value为:

{"discovery-springcloud-example-a":"192.168.43.101:1101", "discovery-springcloud-example-b":"192.168.43.101:1201", "discovery-springcloud-example-c":"192.168.43.101:1302"}

如果上述表达式还未满足需求,也可以采用通配符(具体详细用法,参考Spring AntPathMatcher)

"discovery-springcloud-example-c":"192.168.43.*;192.168.44.10?" - 表示c服务的地址调用范围是192.168.43开头的所有IP,或者是192.168.44.10开头的所有IP(末尾必须是1个字符)
* - 表示调用范围为所有服务的所有IP
192.168.43* - 表示调用范围为所有服务的192.168.43开头的所有IP

多IP和端口灰度路由架构图 Alt text

REST调用的内置版本权重灰度路由策略

基于Feign/RestTemplate的REST调用的多版本权重灰度路由,在Header上传入服务名和版本流量百分比对应关系的Json字符串,如下表示,如果REST请求要经过a,b,c三个服务的版本权重配比,那么只需要它们版本对于流量的百分比 Header的Key为"n-d-version-weight",value为:

{"discovery-springcloud-example-a":"1.0=90;1.1=10", "discovery-springcloud-example-b":"1.0=90;1.1=10", "discovery-springcloud-example-c":"1.0=90;1.1=10"}

如果三个服务权重比一致,那么value的格式可以简化,不需要Json字符串,直接是

1.0=90;1.1=10

REST调用的内置区域权重灰度路由策略

基于Feign/RestTemplate的REST调用的多区域灰度路由,在Header上传入区域流量百分比对应关系的字符串,如下表示,如果REST请求要经过两个区域,那么只需要它们区域对于流量的百分比 Header的Key为"n-d-region-weight",value为:

{"discovery-springcloud-example-a":"dev=85;qa=15", "discovery-springcloud-example-b":"dev=85;qa=15", "discovery-springcloud-example-c":"dev=85;qa=15"}

如果三个服务权重比一致,那么value的格式可以简化,不需要Json字符串,直接是

dev=85;qa=15

REST调用的灰度路由策略

基于Feign/RestTemplate的REST调用的自定义路由,需要用户自行编程

RPC调用的灰度路由策略

基于Feign/RestTemplate的RPC调用的自定义路由,需要用户自行编程

规则和策略

规则和策略的区别

属性 规则 策略
方式 通过XML或者Json配置 通过REST或者RPC调用传递Header或者参数
频率 灰度发布期间更新,频率低 每次调用时候传递,频率高
扩展性 内置,有限扩展,继承三个AbstractXXXListener 内置,完全扩展,实现DiscoveryEnabledStrategy
作用域 运行前,运行期 运行期
依赖性 依赖配置中心或者本地配置文件 依赖每次调用

灰度方式区别图

Alt text

规则和策略的关系

  • 规则和策略,可以混合在一起工作,也关闭一项,让另一项单独工作
  • 规则和策略,一起工作的时候,先执行规则过滤逻辑,再执行策略过滤逻辑
  • 规则和策略关闭
    • 规则关闭,spring.application.register.control.enabled=false和spring.application.discovery.control.enabled=false
    • 策略关闭,spring.application.strategy.control.enabled=false

服务隔离

内置服务隔离

元数据中的Group在一定意义上代表着系统ID或者系统逻辑分组,基于Group策略意味着只有同一个系统中的服务才能调用

  • 注册服务隔离,基于Group黑/白名单的策略,即当前的服务所在的Group,不在Group的黑名单或者在白名单里,才允许被注册。只需要在网关或者服务端,开启如下配置即可:
# 启动和关闭注册的服务隔离基于Group黑/白名单的策略)。缺失则默认为false
spring.application.strategy.register.isolation.enabled=true

黑/白名单通过如下方式配置

spring.application.strategy.register.isolation.group.blacklist=
spring.application.strategy.register.isolation.group.whitelist=
  • 消费端服务隔离,基于Group是否相同的策略,即消费端拿到的提供端列表,两者的Group必须相同。只需要在网关或者服务端,开启如下配置即可:
# 启动和关闭消费端的服务隔离基于Group是否相同的策略)。缺失则默认为false
spring.application.strategy.consumer.isolation.enabled=true
  • 提供端服务隔离,基于Group是否相同的策略,即服务端被消费端调用,两者的Group必须相同,否则拒绝调用,异构系统可以通过Header方式传递n-d-service-group值进行匹配。只需要在服务端(不适用网关),开启如下配置即可:
# 启动和关闭提供端的服务隔离基于Group是否相同的策略)。缺失则默认为false
spring.application.strategy.provider.isolation.enabled=true

# 路由策略的时候需要指定对业务RestController类的扫描路径此项配置作用于RPC方式的调用拦截和消费端的服务隔离两项工作
spring.application.strategy.scan.packages=com.nepxion.discovery.gray.service.feign

自定义服务隔离

使用者可以继承如下类

  • AbstractRegisterListener,实现自定义”禁止注册“,用法参考discovery-springcloud-example-service下MyRegisterListener
  • AbstractDiscoveryListener,实现自定义”禁止被发现“,用法参考discovery-springcloud-example-service下MyDiscoveryListener。注意,在Consul下,同时会触发service和management两个实例的事件,需要区别判断,见上图“集成了健康检查的Consul界面”
  • AbstractLoadBalanceListener,实现自定义”禁止被负载均衡“,用法参考discovery-springcloud-example-service下MyLoadBalanceListener

配置文件

基础属性配置

不同的服务注册发现组件对应的不同的配置值(region配置可选),请仔细阅读

# Eureka config for discovery
eureka.instance.metadataMap.group=xxx-service-group
eureka.instance.metadataMap.version=1.0
eureka.instance.metadataMap.region=dev

# Consul config for discovery
# 参考https://springcloud.cc/spring-cloud-consul.html - 元数据和Consul标签
spring.cloud.consul.discovery.tags=group=xxx-service-group,version=1.0,region=dev

# Zookeeper config for discovery
spring.cloud.zookeeper.discovery.metadata.group=xxx-service-group
spring.cloud.zookeeper.discovery.metadata.version=1.0
spring.cloud.zookeeper.discovery.metadata.region=dev

# Nacos config for discovery
spring.cloud.nacos.discovery.metadata.group=example-service-group
spring.cloud.nacos.discovery.metadata.version=1.0
spring.cloud.nacos.discovery.metadata.region=dev

# Admin config
# E版配置方式
# 关闭访问Rest接口时候的权限验证
management.security.enabled=false
management.port=5100

# F版或以上配置方式
management.server.port=5100

功能开关配置

服务端配置

# Plugin core config
# 开启和关闭服务注册层面的控制一旦关闭服务注册的黑/白名单过滤功能将失效最大注册数的限制过滤功能将失效缺失则默认为true
# spring.application.register.control.enabled=true
# 开启和关闭服务发现层面的控制一旦关闭服务多版本调用的控制功能将失效动态屏蔽指定IP地址的服务实例被发现的功能将失效缺失则默认为true
# spring.application.discovery.control.enabled=true
# 开启和关闭通过Rest方式对规则配置的控制和推送一旦关闭只能通过远程配置中心来控制和推送缺失则默认为true
# spring.application.config.rest.control.enabled=true
# 规则文件的格式支持xml和json缺失则默认为xml
# spring.application.config.format=xml
# spring.application.config.format=json
# 本地规则文件的路径支持两种方式classpath:rule.xmlrule.json- 规则文件放在resources目录下便于打包进jarfile:rule.xmlrule.json- 规则文件放在工程根目录下放置在外部便于修改缺失则默认为不装载本地规则
# spring.application.config.path=classpath:rule.xml
# spring.application.config.path=classpath:rule.json
# 为微服务归类的Key一般通过group字段来归类例如eureka.instance.metadataMap.group=xxx-group或者eureka.instance.metadataMap.application=xxx-application缺失则默认为group
# spring.application.group.key=group
# spring.application.group.key=application
# 业务系统希望大多数时候SpringSpringBoot或者SpringCloud的基本配置调优参数非业务系统配置参数),不配置在业务端集成到基础框架里但特殊情况下业务系统有时候也希望能把基础框架里配置的参数给覆盖掉用他们自己的配置
# 对于此类型的配置需求可以配置在下面的配置文件里该文件一般放在resource目录下缺失则默认为spring-application-default.properties
# spring.application.default.properties.path=spring-application-default.properties
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试缺失则默认为false
# spring.application.no.servers.retry.enabled=false
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试的次数缺失则默认为5
# spring.application.no.servers.retry.times=5
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试的时间间隔缺失则默认为2000
# spring.application.no.servers.retry.await.time=2000
# 负载均衡下消费端尝试获取对应提供端服务实例列表为空的时候通过日志方式通知缺失则默认为false
# spring.application.no.servers.notify.enabled=false

# Plugin strategy config
# 开启和关闭路由策略的控制一旦关闭路由策略功能将失效缺失则默认为true
# spring.application.strategy.control.enabled=true
# 开启和关闭Ribbon默认的ZoneAvoidanceRule负载均衡策略一旦关闭则使用RoundRobin简单轮询负载均衡策略缺失则默认为true
# spring.application.strategy.zone.avoidance.rule.enabled=true
# 启动和关闭路由策略的时候对REST方式的调用拦截缺失则默认为true
# spring.application.strategy.rest.intercept.enabled=true
# 启动和关闭Header传递的Debug日志打印注意每调用一次都会打印一次会对性能有所影响建议压测环境和生产环境关闭缺失则默认为false
spring.application.strategy.rest.intercept.debug.enabled=true
# 路由策略的时候对REST方式调用拦截的时候支持Feign或者RestTemplate调用),希望把来自外部自定义的Header参数用于框架内置上下文Header例如traceid, spanid等传递到服务里那么配置如下值如果多个用“;”分隔不允许出现空格
# spring.application.strategy.context.request.headers=traceid;spanid
# 路由策略的时候对REST方式调用拦截的时候支持Feign或者RestTemplate调用),希望把来自外部自定义的Header参数用于业务系统子定义Header例如mobile传递到服务里那么配置如下值如果多个用“;”分隔不允许出现空格
spring.application.strategy.business.request.headers=token
# 启动和关闭路由策略的时候对RPC方式的调用拦截缺失则默认为false
spring.application.strategy.rpc.intercept.enabled=true
# 路由策略的时候需要指定对业务RestController类的扫描路径此项配置作用于RPC方式的调用拦截消费端的服务隔离和调用链三项功能
spring.application.strategy.scan.packages=com.nepxion.discovery.plugin.example.service.feign
# 启动和关闭注册的服务隔离基于Group黑/白名单的策略)。缺失则默认为false
spring.application.strategy.register.isolation.enabled=true
# 启动和关闭消费端的服务隔离基于Group是否相同的策略)。缺失则默认为false
spring.application.strategy.consumer.isolation.enabled=true
# 启动和关闭提供端的服务隔离基于Group是否相同的策略)。缺失则默认为false
spring.application.strategy.provider.isolation.enabled=true
# 启动和关闭调用链缺失则默认为false
spring.application.strategy.trace.enabled=true
# 启动和关闭调用链的Debug日志打印注意每调用一次都会打印一次会对性能有所影响建议压测环境和生产环境关闭缺失则默认为false
spring.application.strategy.trace.debug.enabled=true
# 开启服务端实现Hystrix线程隔离模式做服务隔离时必须把spring.application.strategy.hystrix.threadlocal.supported设置为true同时要引入discovery-plugin-strategy-starter-hystrix包否则线程切换时会发生ThreadLocal上下文对象丢失缺失则默认为false
# spring.application.strategy.hystrix.threadlocal.supported=true

# 启动和关闭Sentinel限流降级熔断权限等功能缺失则默认为false
# spring.application.strategy.sentinel.enabled=true
# 流控规则文件路径缺失则默认为classpath:sentinel-flow.json
# spring.application.strategy.sentinel.flow.path=classpath:sentinel-flow.json
# 降级规则文件路径缺失则默认为classpath:sentinel-degrade.json
# spring.application.strategy.sentinel.degrade.path=classpath:sentinel-degrade.json
# 授权规则文件路径缺失则默认为classpath:sentinel-authority.json
# spring.application.strategy.sentinel.authority.path=classpath:sentinel-authority.json
# 系统规则文件路径缺失则默认为classpath:sentinel-system.json
# spring.application.strategy.sentinel.system.path=classpath:sentinel-system.json
# 热点参数流控规则文件路径缺失则默认为classpath:sentinel-param-flow.json
# spring.application.strategy.sentinel.param.flow.path=classpath:sentinel-param-flow.json
# 服务端执行规则时候以Http请求中的Header值作为关键Key缺失则默认为n-d-service-id即以服务名作为关键Key
# spring.application.strategy.service.sentinel.request.origin.key=n-d-service-id

Spring Cloud Gateway端配置

# Plugin core config
# 开启和关闭服务注册层面的控制一旦关闭服务注册的黑/白名单过滤功能将失效最大注册数的限制过滤功能将失效缺失则默认为true
# spring.application.register.control.enabled=true
# 开启和关闭服务发现层面的控制一旦关闭服务多版本调用的控制功能将失效动态屏蔽指定IP地址的服务实例被发现的功能将失效缺失则默认为true
# spring.application.discovery.control.enabled=true
# 开启和关闭通过Rest方式对规则配置的控制和推送一旦关闭只能通过远程配置中心来控制和推送缺失则默认为true
# spring.application.config.rest.control.enabled=true
# 规则文件的格式支持xml和json缺失则默认为xml
# spring.application.config.format=xml
# spring.application.config.format=json
# 本地规则文件的路径支持两种方式classpath:rule.xmlrule.json- 规则文件放在resources目录下便于打包进jarfile:rule.xmlrule.json- 规则文件放在工程根目录下放置在外部便于修改缺失则默认为不装载本地规则
# spring.application.config.path=classpath:rule.xml
# spring.application.config.path=classpath:rule.json
# 为微服务归类的Key一般通过group字段来归类例如eureka.instance.metadataMap.group=xxx-group或者eureka.instance.metadataMap.application=xxx-application缺失则默认为group
# spring.application.group.key=group
# spring.application.group.key=application
# 业务系统希望大多数时候SpringSpringBoot或者SpringCloud的基本配置调优参数非业务系统配置参数),不配置在业务端集成到基础框架里但特殊情况下业务系统有时候也希望能把基础框架里配置的参数给覆盖掉用他们自己的配置
# 对于此类型的配置需求可以配置在下面的配置文件里该文件一般放在resource目录下缺失则默认为spring-application-default.properties
# spring.application.default.properties.path=spring-application-default.properties
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试缺失则默认为false
# spring.application.no.servers.retry.enabled=false
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试的次数缺失则默认为5
# spring.application.no.servers.retry.times=5
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试的时间间隔缺失则默认为2000
# spring.application.no.servers.retry.await.time=2000
# 负载均衡下消费端尝试获取对应提供端服务实例列表为空的时候通过日志方式通知缺失则默认为false
# spring.application.no.servers.notify.enabled=false

# Plugin strategy config
# 开启和关闭路由策略的控制一旦关闭路由策略功能将失效缺失则默认为true
# spring.application.strategy.control.enabled=true
# 开启和关闭Ribbon默认的ZoneAvoidanceRule负载均衡策略一旦关闭则使用RoundRobin简单轮询负载均衡策略缺失则默认为true
# spring.application.strategy.zone.avoidance.rule.enabled=true
# 路由策略过滤器的执行顺序Order)。缺失则默认为9000
# spring.application.strategy.gateway.route.filter.order=9000
# 当外界传值Header的时候网关也设置并传递同名的Header需要决定哪个Header传递到后边的服务去如果下面开关为true以网关设置为优先否则以外界传值为优先缺失则默认为true
spring.application.strategy.gateway.header.priority=false
# 当以网关设置为优先的时候网关未配置Header而外界配置了Header仍旧忽略外界的Header缺失则默认为true
# spring.application.strategy.gateway.original.header.ignored=true
# 启动和关闭注册的服务隔离基于Group黑/白名单的策略)。缺失则默认为false
spring.application.strategy.register.isolation.enabled=true
# 启动和关闭消费端的服务隔离基于Group是否相同的策略)。缺失则默认为false
spring.application.strategy.consumer.isolation.enabled=true
# 启动和关闭调用链缺失则默认为false
spring.application.strategy.trace.enabled=true
# 启动和关闭调用链的Debug日志打印注意每调用一次都会打印一次会对性能有所影响建议压测环境和生产环境关闭缺失则默认为false
spring.application.strategy.trace.debug.enabled=true
# 开启Spring Cloud Gateway网关上实现Hystrix线程隔离模式做服务隔离时必须把spring.application.strategy.hystrix.threadlocal.supported设置为true同时要引入discovery-plugin-strategy-starter-hystrix包否则线程切换时会发生ThreadLocal上下文对象丢失缺失则默认为false
# spring.application.strategy.hystrix.threadlocal.supported=true

Zuul端配置

# Plugin core config
# 开启和关闭服务注册层面的控制一旦关闭服务注册的黑/白名单过滤功能将失效最大注册数的限制过滤功能将失效缺失则默认为true
# spring.application.register.control.enabled=true
# 开启和关闭服务发现层面的控制一旦关闭服务多版本调用的控制功能将失效动态屏蔽指定IP地址的服务实例被发现的功能将失效缺失则默认为true
# spring.application.discovery.control.enabled=true
# 开启和关闭通过Rest方式对规则配置的控制和推送一旦关闭只能通过远程配置中心来控制和推送缺失则默认为true
# spring.application.config.rest.control.enabled=true
# 规则文件的格式支持xml和json缺失则默认为xml
# spring.application.config.format=xml
# spring.application.config.format=json
# 本地规则文件的路径支持两种方式classpath:rule.xmlrule.json- 规则文件放在resources目录下便于打包进jarfile:rule.xmlrule.json- 规则文件放在工程根目录下放置在外部便于修改缺失则默认为不装载本地规则
# spring.application.config.path=classpath:rule.xml
# spring.application.config.path=classpath:rule.json
# 为微服务归类的Key一般通过group字段来归类例如eureka.instance.metadataMap.group=xxx-group或者eureka.instance.metadataMap.application=xxx-application缺失则默认为group
# spring.application.group.key=group
# spring.application.group.key=application
# 业务系统希望大多数时候SpringSpringBoot或者SpringCloud的基本配置调优参数非业务系统配置参数),不配置在业务端集成到基础框架里但特殊情况下业务系统有时候也希望能把基础框架里配置的参数给覆盖掉用他们自己的配置
# 对于此类型的配置需求可以配置在下面的配置文件里该文件一般放在resource目录下缺失则默认为spring-application-default.properties
# spring.application.default.properties.path=spring-application-default.properties
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试缺失则默认为false
# spring.application.no.servers.retry.enabled=false
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试的次数缺失则默认为5
# spring.application.no.servers.retry.times=5
# 负载均衡下消费端尝试获取对应提供端初始服务实例列表为空的时候进行重试的时间间隔缺失则默认为2000
# spring.application.no.servers.retry.await.time=2000
# 负载均衡下消费端尝试获取对应提供端服务实例列表为空的时候通过日志方式通知缺失则默认为false
# spring.application.no.servers.notify.enabled=false

# Plugin strategy config
# 开启和关闭路由策略的控制一旦关闭路由策略功能将失效缺失则默认为true
# spring.application.strategy.control.enabled=true
# 开启和关闭Ribbon默认的ZoneAvoidanceRule负载均衡策略一旦关闭则使用RoundRobin简单轮询负载均衡策略缺失则默认为true
# spring.application.strategy.zone.avoidance.rule.enabled=true
# 路由策略过滤器的执行顺序Order)。缺失则默认为0
# spring.application.strategy.zuul.route.filter.order=0
# 当外界传值Header的时候网关也设置并传递同名的Header需要决定哪个Header传递到后边的服务去如果下面开关为true以网关设置为优先否则以外界传值为优先缺失则默认为true
spring.application.strategy.zuul.header.priority=false
# 当以网关设置为优先的时候网关未配置Header而外界配置了Header仍旧忽略外界的Header缺失则默认为true
# spring.application.strategy.zuul.original.header.ignored=true
# 启动和关闭注册的服务隔离基于Group黑/白名单的策略)。缺失则默认为false
spring.application.strategy.register.isolation.enabled=true
# 启动和关闭消费端的服务隔离基于Group是否相同的策略)。缺失则默认为false
spring.application.strategy.consumer.isolation.enabled=true
# 启动和关闭调用链缺失则默认为false
spring.application.strategy.trace.enabled=true
# 启动和关闭调用链的Debug日志打印注意每调用一次都会打印一次会对性能有所影响建议压测环境和生产环境关闭缺失则默认为false
spring.application.strategy.trace.debug.enabled=true
# 开启Zuul网关上实现Hystrix线程隔离模式做服务隔离时必须把spring.application.strategy.hystrix.threadlocal.supported设置为true同时要引入discovery-plugin-strategy-starter-hystrix包否则线程切换时会发生ThreadLocal上下文对象丢失缺失则默认为false
# spring.application.strategy.hystrix.threadlocal.supported=true

外部元数据配置

外部系统(例如运维发布平台)在远程启动制定微服务的时候,可以通过参数传递来动态改变元数据或者增加运维特色的参数,最后注册到远程配置中心。有如下两种方式:

  • 通过Program arguments来传递,它的用法是前面加“--”。支持Eureka、Zookeeper和Nacos的增量覆盖,Consul由于使用了全量覆盖的tag方式,不适用改变单个元数据的方式 例如:--spring.cloud.nacos.discovery.metadata.version=1.0
  • 通过VM arguments来传递,它的用法是前面加“-D”。支持上述所有的注册组件,它的限制是变量前面必须要加“metadata.”,推荐使用该方式 例如:-Dmetadata.version=1.0
  • 两种方式尽量避免同时用

配置中心

管理中心

❗PORT端口号为服务端口或者管理端口都可以

  • 配置接口
  • 版本接口
  • 路由接口 参考Swagger界面,如下图

Alt text

控制平台

为UI提供相关接口,包括

  • 一系列批量功能
  • 跟Nacos、Apollo和Redis集成,实现配置拉取、推送和清除

❗PORT端口号为服务端口或者管理端口都可以

  • 控制平台接口 参考Swagger界面,如下图

Alt text

监控平台

基于Spring Boot Actuator技术的Spring Boot Admin监控平台

参考https://github.com/codecentric/spring-boot-admin

熔断隔离限流降级平台

基于Alibaba Sentinel的熔断隔离限流降级平台

参考https://github.com/alibaba/Sentinel

界面工具

基于Apollo界面的灰度发布

Alt text

  • 参考Apollo官方文档https://github.com/ctripcorp/apollo相关文档,搭建Apollo环境,以及熟悉相关的基本操作
  • 根据上图,做如下步骤操作
    • 设置页面中AppId和配置文件里面app.id一致
    • 设置页面中Namespace和配置文件里面apollo.plugin.namespace一致,如果配置文件里不设置,那么页面默认采用内置的“application”
    • 在页面中添加配置
      • 局部配置方式:一个服务集群(eureka.instance.metadataMap.group和spring.application.name都相同的服务)对应一个配置文件,通过group+serviceId方式添加,Key为“group-serviceId”,Value为Xml或者Json格式的规则内容。group取值于配置文件里的eureka.instance.metadataMap.group配置项,serviceId取值于spring.application.name配置项目
      • 全局配置方式:一组服务集群(eureka.instance.metadataMap.group相同,但spring.application.name可以不相同的服务)对应一个配置文件,通过group方式添加,Key为“group-group”,Value为Xml或者Json格式的规则内容。group取值于配置文件里的eureka.instance.metadataMap.group配置项
      • 强烈建议局部配置方式和全局配置方式不要混用,否则连使用者自己都无法搞清楚到底是哪种配置方式在起作用
    • 其他更多参数,例如evn, cluster等,请自行参考Apollo官方文档,保持一致

基于Nacos界面的灰度发布

Alt text

  • 参考Nacos官方文档https://github.com/alibaba/nacos相关文档,搭建Nacos环境,以及熟悉相关的基本操作
  • 添加配置步骤跟Apollo配置界面中的“在页面中添加配置”操作项相似

基于Rest方式的灰度发布

  • Swagger方式 见“管理中心”和“控制平台”

  • Postman方式 导入Postman的测试脚本,脚本地址

基于图形化桌面程序的灰度发布

  • 桌面程序对Windows和Mac操作系统都支持,但在Mac操作系统中界面显示有点瑕疵,但不影响功能使用
  • Clone https://github.com/Nepxion/Discovery.git获取源码(注意master和Edgware分支)
  • 通过IDE启动
    • 运行discovery-console-desktop\ConsoleLauncher.java启动
  • 通过脚本启动
    • 在discovery-console-desktop目录下执行mvn clean install,target目录下将产生discovery-console-desktop-[版本号]-release的目录
    • 进入discovery-console-desktop-[版本号]-release,请修改config/console.properties中的url,该地址指向控制平台的地址
    • 运行“Discovery灰度发布控制台.bat”,启动桌面程序
    • 如果您是操作系统,请参考“Discovery灰度发布控制台.bat”,自行编写“Discovery灰度发布控制台.sh”脚本,启动桌面程序
  • 操作界面
    • 登录认证,用户名和密码为admin/admin或者nepxion/nepxion。顺便说一下,控制台支持简单的认证,用户名和密码配置在discovery-springcloud-example-console\bootstrap.properties中,您可以自己扩展AuthenticationResource并注入,实现更专业的认证功能 Alt text
    • 点击“显示服务拓扑”按钮,弹出“服务集群组过滤”对话框,列表是以服务所在的集群组列表(例如:eureka.instance.metadataMap.group=example-service-group),选择若干个并点击“确定”按钮,如果使用者想获取全部的服务集群(可能会耗性能),则直接点击“取消”按钮 Alt text
    • 从服务注册发现中心获取服务拓扑 Alt text
    • 执行灰度路由,选择一个服务,右键菜单“执行灰度路由” Alt text
    • 通过“服务列表”切换,或者点击增加和删除服务按钮,确定灰度路由路径,点击“执行路由” Alt text Alt text
    • 推送模式设置,“异步推送”和“同步推送”,前者是推送完后立刻返回,后者是推送完后等待推送结果(包括规则XML解析的异常等都能在界面上反映出来);“规则推送到远程配置中心”和“规则推送到服务或者服务集群”,前者是推送到配置中心(持久化),后者是推送到一个或者多个服务机器的内存(非持久化,重启后丢失) Alt text
    • 执行灰度发布,选择一个服务或者服务组,右键菜单“执行灰度发布”,前者是通过单个服务实例执行灰度发布,后者是通过一组服务实例执行灰度发布 Alt text
    • 灰度发布,包括“更改版本”和“更改规则”,前者通过更改版本号去适配灰度规则中的版本匹配关系,后者直接修改规则。“更改版本”是推送到一个或者多个服务机器的内存(非持久化,重启后丢失),“更改规则”是根据不同的推送模式,两种方式都支持 Alt text
    • 全链路灰度发布,所有在同一个集群组(例如:eureka.instance.metadataMap.group=example-service-group)里的服务统一做灰度发布,即一个规则配置搞定所有服务的灰度发布。点击“全链路灰度发布”按钮,弹出“全链路灰度发布”对话框 Alt text Alt text
    • 刷新灰度状态,选择一个服务或者服务组,右键菜单“刷新灰度状态”,查看某个服务或者服务组是否正在做灰度发布 Alt text
  • 操作视频(有点老,请参考学习)

基于图形化Web程序的灰度发布

  • 参考图形化Web
  • 操作过程跟“基于图形化桌面程序的灰度发布”类似

自动化测试

性能压力测试

  • 机器配置
服务 配置 数目
Spring Cloud Gateway 16C 32G 1
Zuul 1.x 16C 32G 1
Service 4C 8G 2
  • 优化方式
    • Spring Cloud Gateway,不需要优化
    • Zuul 1.x,优化如下
zuul.host.max-per-route-connections=1000
zuul.host.max-total-connections=1000
zuul.semaphore.max-semaphores=5000
  • 压测报告

基于WRK极限压测,报告如下

服务 性质 线程数 连接数 每秒最大请求数 资源耗费
Spring Cloud Gateway 原生框架 5000 20000 28000左右 CPU占用率56%
Spring Cloud Gateway 本框架 5000 20000 24977.22 CPU占用率58%
Zuul 1.x 原生框架 5000 20000 26000左右 CPU占用率42%
Zuul 1.x 本框架 5000 20000 21412.96 CPU占用率45%

Star走势图

Stargazers over time

About

🐳 Nepxion Discovery is a enhancement for Spring Cloud Discovery on Eureka + Consul + Zookeeper + Nacos with Nacos + Apollo config for gray release, router, weight, isolation 网关和服务灰度发布、路由、权重、隔离、调用链

Resources

License

Stars

Watchers

Forks

Packages

No packages published

Languages

  • Java 99.5%
  • Batchfile 0.5%