负载均衡 —— SpringCloud Netflix Ribbon

Ribbon 简介

Ribbon 是 Netfix 客户端的负载均衡器,可对 HTTP 和 TCP 客户端的行为进行控制。为 Ribbon 配置服务提供者地址后,Ribbon 就可以基于某种负载均衡算法自动帮助服务消费者去请求。Ribbon 默认提供了很多负载均衡算法,例如轮询、随机等,也可以为 Ribbon 实现自定义的负载均衡算法

Ribbon 有以下几个重要概念:

  • Rule:该组件主要决定从候选服务器中返回哪个服务器地址进行远程调用的操作
  • Ping:在后台运行的组件,用来确认哪些服务器是存活可用的
  • ServerList:当前可以用作 LB 的服务器列表,该列表可以是静态的,也可以是动态的。如果是动态列表(例如从 Eurka 服务器获取),就会有一个后台线程按照时间间隔刷新列表

Ribbon 提供了以下几种 Rule:

  • RoundRobinRule:最简单的规则,会在 ServerList 中依次轮询调用
  • RandomRule:随机
  • AvailabilityFileringRule:在这种规则下 Ribbon 集成了 Hystrix 的功能,默认情况下调用某个远程方法失败三次后断路器的开关会被打开,而之后的请求中 Ribbon 会跳过这个服务器地址,直到三十秒之后断路器关闭后才会重新加入调用列表
  • WeightedResponseTimeRule:将响应时间作为权重的负载规则,某个服务器的响应时越长,它的权重就越低,具体选择服务器时,结合权重进行随机选择
  • RetryRule:按照 RoundRobinRule(轮询)策略获取服务,如果获取服务失败,就在指定时间内重试,获取可用的服务
  • BestAvailableRule:先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务
  • ZoneAvoidanceRule:复合判断 Server 所在区域的性能和 Server 的可用性选择服务器

负载均衡算法

服务消费者从服务配置中心获取服务的地址列表后需要选取其中一台发起 RPC/HTTP 调用,这时需要用到具体的负载均衡算法

1. 轮询法

轮询法是指将请求按顺序轮流分配到后端服务器上,均衡地对待后端的每一台服务器,不关心服务器实际的连接数和当前系统负载

2. 加权轮询法

简单的轮询法并不考虑后端机器的性能和负载差异,加权轮询法可以很好地处理这一问题,它将按照顺序且按照权重分派给后端服务器,给性能高、负载低的机器配置较高的权重,让其处理较多的请求,给性能低、负载高的机器配置较低的权重,让其处理较少的请求

假设有 9 个客户端请求、3 台后端服务器,后端服务器 1 被赋予权值 1,后端服务器2被赋予值 2,后端服务器 3 赋值 3,这样一来,客户端请求 1、2、3 都被分派到服务器 3 处理,客户端请求 4、5 被分派到服务器 2 处,客户端请求 6 被分派到服务器 1 处理,客户端请求 7、8、9 被分派到服务器 3 处理,以此类推

3. 随机法

随机法也很简单,就是随机选择一台后端服务器进行请求处理,由于每次服务器被挑中的概率都一样,因此客户端的请求可以被均匀地分派到所有的后端服务器上

4. 加权随机法

加权随机法跟加权轮询法类似,根据后台服务器不同的配置和负载情况配置不同的权重,不同的是,它是按照权重来随机选取服务器的,而非顺序

比如希望抽到 A 的概率是 50%、抽到 B 和 C 的概率是 20%、抽到 D 的概率是 10%,一般来说,我们可以给各项附加一个权重,抽取的概率正比于这个权重,上述集合就成了 {A:5,B:2,C:2,D:1),扩展这个集合,使每一项出现的次数与其权重正相关,即 {A,A,A,A,A,B,BC,C,D},然后就可以用均匀随机算法从中选取了

5. 源地址哈希法

源地址哈希是根据获取客户端的 IP 地址,通过哈希函数计算得到一个数值,用该数值对服务器列表的大小进行取模运算,得到的结果便是客户端要访问服务器的序号。采用源地址哈希法进行负载均衡,当后端服务器列表不变时,同一个 IP 地址的客户端,每次都会映射到同一台后端服务器进行访问,但当后端服务器增加或者减少时,由于次数用于取模的服务器总数发生了变化,就导致同一哈希值的请求无法命中同一台服务器,节点数越高,命中率越低

6. 一致性哈希法

一致性哈希法解决了分布式环境下机器增加或者减少时简单的取模运算无法获取较高命中率的问题,通过一个一致性哈希环的数据结构实现映射,具体算法过程为:先构造一个长度为 2 的 32 次方的整数环(一致性哈希环),根据节点计算得出的哈希值将缓存服务器节点放置在这个哈希环上,然后在哈希环上顺时针查找距离这个哈希值最近的服务器节点,完成请求到服务器的映射

在这里插入图片描述

假设现在增加一台服务器 4,那么影响的就只有一个的请求,也就是说原本到服务器 1 的请求会被映射到服务器 4 上,虽然也会影响到整个集群,但是影响的只是加粗的那一段而已,这种影响要小得多。更重要的是,集群中缓存服务器节点越多,增加节点带来的影响越小

在这里插入图片描述


第一个 Ribbon 程序

创建名为 ribbon-provider 的项目,添加配置文件 application-01.properties 和 application-02.properties

# application-01.properties 配置文件内容
server.port=8080# application-02.properties 配置文件内容
server.port=8081

开发 UserController 类

@RestController
@RequestMapping("user")
public class UserCon {@Resourceprivate Environment environment;public String getPort() {return environment.getProperty("local.server.port");}@RequestMapping("getName")public String getUserName (){return "hello,ay" + "-" + getPort();}
}

通过使用不同的配置文件,可以启动多个 SpringBoot 应用,分别启动 ribbon-provider-8080 和 ribbon-provider-8081

创建名为 ribbon-consumer 的项目,pom.xml 添加依赖

<dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>

添加配置文件 application.yml

my-client:  #负载均衡配置ribbon:listOfServers: localhost:8080,localhost:8081  # 配置服务列表NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule  # 配置负载均衡算法 RoundRobinRule(轮询)

Ribbon 的配置格式是 <clientName>:ribbon:需要配置的属性<clientName> 是 Ribbon 的客户端名称,如果省略就配置所有客户端,配置的属性有以下几种:

  • NFLoadBalancerClassName:配置 ILoadBalancer 的实现类
  • NFLoadBalancerRuleClassName:配置 IRule 的实现类
  • NFLoadBalancerPingClassName:配置 IPing 的实现类
  • NIWSServerListClassName:配置 ServerList 的实现类
  • NIWSServerListFilterClassName:配置 ServerListFilter 的实现类

在 main 方法中添加如下代码:

@SpringBootApplication
public class RibbonConsumerApplication {public static void main(String[] args) throws Exception {SpringApplication.run(RibbonConsumerApplication.class, args);//获取客户端RestClient client = (RestClient) ClientFactory.getNamedClient("my-client");//调用UserController类的getUserName 方法HttpRequest request = HttpRequest.newBuilder().uri("/user/getName").build();//循环调用for(int i = 0; i<10; i++) {HttpResponse response = client.executeWithLoadBalancer(request);String result = response.getEntity(String.class);System.out.println(result);}}
}

启动 ribbon-consumer 项目,从打印信息中可以看出,服务通过轮询的方式调用


Ribbon 整合 Nacos & 自定义负载均衡策略

创建 ribbon-custom-consumer 的项目,添加配置类

@Configuration
public class RibbonConfig {@Beanpublic IRule ribbonRule() {// ribbon默认使用的是zoneAvoidanceRule规则,这里修改为自定义方式return new MyRule();}
}

创建 MyRule 类,用来自定义负载均衡规则

/*** 负载规则:始终返回第一个服务*/
public class MyRule extends AbstractLoadBalancerRule {@Overridepublic void initWithNiwsConfig(IClientConfig iClientConfig) {}@Overridepublic Server choose(Object o) {ILoadBalancer loadBalancer = getLoadBalancer();// 获取所有的服务List<Server> servers = loadBalancer.getAllServers();// 始终返回第一个服务return servers.get(0);}
}

自定义指定 Ribbon 客户端的配置

/*** 使用 RibbonClient 为特定 name 的 Ribbon Client 自定义配置* 使用 @RibbonClient 的 configuration 属性指定 Ribbon 的配置类*/
@Configuration
@RibbonClient(name = "service-provider", configuration = RibbonConfig.class)
public class TestConfig {}

在 application.properties 配置文件中添加如下配置

server.port=7089
spring.application.name=service-custom
spring.cloud.nacos.discovery.server-addr=127.0.0.1:8848

在启动类中添加 @EnableDiscoveryClient 注解

@EnableDiscoveryClient
@SpringBootApplication
public class RibbonCustomApplication {public static void main(String[] args) {SpringApplication.run(RibbonCustomApplication.class, args);}
}

创建 TesController类,具体代码如下

@RestController
@RequestMapping("test")
public class TestController {@Resourceprivate LoadBalancerClient loadBalancerClient;@RequestMapping("getUserName")public String getUserName() {for (int i = 0; i < 20; i++) {//获取service-provider服务ServiceInstance serviceInstance = loadBalancerClient.choose("service-provider");//打印当前选择的是哪个节点System.out.println(serviceInstance.getServiceId() + serviceInstance.getHost() + "; " + serviceInstance.getPort());}return "hello,ay";}
}

在上述步骤中,我们创建了 ribbon-custom-consumer 项目,并定义了负载均衡规则 MyRule,服务启动后注册到 Nacos 中,这样一来,在调用 getUserName 方法时,会从 Nacos 中获取已注册的服务提供者列表,并按照我们自定义的负载规则进行调用


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/140435.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

leetcode:2446. 判断两个事件是否存在冲突(python3解法)

难度&#xff1a;简单 给你两个字符串数组 event1 和 event2 &#xff0c;表示发生在同一天的两个闭区间时间段事件&#xff0c;其中&#xff1a; event1 [startTime1, endTime1] 且event2 [startTime2, endTime2] 事件的时间为有效的 24 小时制且按 HH:MM 格式给出。 当两个…

使用 PyTorch 的计算机视觉简介 (5/6)

一、说明 本文主要介绍CNN中在pytorch的实现&#xff0c;其中VGG16网络&#xff0c;数据集来源&#xff0c;以及训练过程&#xff0c;模型生成和存储&#xff0c;模型调入等。 二、预训练模型和迁移学习 训练 CNN 可能需要大量时间&#xff0c;并且该任务需要大量数据。但是&am…

python随手小练3

题目&#xff1a; 写出一个判断闰年的python代码&#xff1a; 闰年的条件&#xff1a; 如果N能够被4整除&#xff0c;并且不能被100整除&#xff0c;则是闰年 或者&#xff1a;N能被400整除&#xff0c;也是闰年 即&#xff1a;4年一润并且百年不润&#xff0c;每400年再润一…

Verilog 不同编码风格对综合电路的影响

文章目录 示例 #1示例 #2示例 #3 Verilog是一种硬件描述语言&#xff08;HDL&#xff09;&#xff0c;用于设计数字电路和系统。统一、良好的代码编写风格&#xff0c;可以提高代码的可维护性和可读性。 同样的功能&#xff0c;不同的Verilog 编码风格也会对综合过程产生重大影…

安全远程访问工具

什么是安全远程访问 安全远程访问是指一种 IT 安全策略&#xff0c;允许对企业网络、任务关键型系统或任何机密数据进行授权、受控访问。它使 IT 团队能够根据员工和第三方的角色和工作职责为其提供不同级别的访问权限&#xff0c;安全的远程访问方法可保护系统和应用程序&…

软件设计模式系列之十三——享元模式

1 模式的定义 享元模式&#xff08;Flyweight Pattern&#xff09;是一种结构型设计模式&#xff0c;它旨在减少内存占用或计算开销&#xff0c;通过共享大量细粒度对象来提高系统的性能。这种模式适用于存在大量相似对象实例&#xff0c;但它们的状态可以外部化&#xff08;e…

Android滑动片段

本文所有的代码均存于 https://github.com/MADMAX110/BitsandPizzas 回到BitsandPizzas应用&#xff0c;之前已经创建过创建订单和发出反馈等功能。 修改披萨应用&#xff0c;让它使用标签页导航。在工具条下显示一组标签页&#xff0c;每个选项对应一个不同的标签页。用户单击…

ThreeJS-3D教学一基础场景创建

Three.js 是一个开源的 JS 3D 图形库&#xff0c;用于创建和展示高性能、交互式的 3D 图形场景。它建立在 WebGL 技术之上&#xff0c;并提供了丰富的功能和工具&#xff0c;使开发者可以轻松地构建令人惊叹的 3D 可视化效果。 Three.js 提供了一套完整的工具和 API&#xff0…

知识图谱:信息抽取简易流程

目录 一、标注训练数据 二、训练数据模型 三、实现NER 一、标注训练数据 使用工具:Brat ## BRAT安装 0、安装条件 (1)运行于Linux系统 (2)brat(v1.3p1)仅支持python2版本运行使用,否则会报错 File "standalone.py", line 257except SystemExit, sts:^Syn…

c++中关于Thread Affinity(线程亲和性)示例源码

win10下&#xff0c;可以在任务管理器里面设置某个进程的线程亲和性,如下图: 然后选择相关的cpu&#xff0c;如下图&#xff1a; 这么做可以使得相关的线程在某些密集型计算任务中只会运行在某些指定的cpu上&#xff0c;以便提高性能。 以下是windwos上c程序中应用Thread Affi…

Python 运行代码

一、Python运行代码 可以使用三种方式运行Python&#xff0c;如下&#xff1a; 1、交互式 通过命令行窗口进入 Python 并开始在交互式解释器中开始编写 Python 代码 2、命令行脚本 可以把代码放到文件中&#xff0c;通过python 文件名.py命令执行代码&#xff0c;如下&#xff…

使用 LangChain 和 Elasticsearch 对私人数据进行人工智能搜索

关于本博文的所有代码可以在地址下载&#xff1a;GitHub - liu-xiao-guo/python-vector-private 我将在本博文中其中深入研究人工智能和向量嵌入的深水区。 ChatGPT 令人大开眼界&#xff0c;但有一个主要问题。 这是一个封闭的托管系统。 在一个被大型网络公司改变的世界里生…

【轨道机器人】成功驱动伺服电机(学生电源、DCH调试软件、DH系列伺服驱动器)

1、硬件平台 工控机 学生电源 DH系列伺服驱动器 电机 调试平台&#xff1a;DCH 2、如何利用dch驱动电机 点击可驱动电机 下面的步骤是比较关键的几步&#xff1a; 3、遇到的问题 不能成功驱动电机&#xff0c;还和厂家那边打电话&#xff0c;询问 发现是这…

【C++】bitset位图的简单模拟实现及常见面试题

文章目录 前言一、 bitset模拟实现二、 常见面试题1.给你一百亿个整数&#xff0c;找到只出现一次的数字2. 给两个文件&#xff0c;分别有100亿个整数&#xff0c;我们只有1G内存&#xff0c;如何找到两个文件交集&#xff1f; 前言 快速查找某个数据是否在一个集合中排序 去重…

Hdoop伪分布式集群搭建

文章目录 Hadoop安装部署前言1.环境2.步骤3.效果图 具体步骤&#xff08;一&#xff09;前期准备&#xff08;1&#xff09;ping外网&#xff08;2&#xff09;配置主机名&#xff08;3&#xff09;配置时钟同步&#xff08;4&#xff09;关闭防火墙 &#xff08;二&#xff09…

ddns有什么作用?无公网IP怎么将内网IP端口映射外网访问

DDNS是什么&#xff1f; DDNS英文全称Dynamic Domain Name Server&#xff0c;中文含义是指动态域名服务。很多普通路由器或者智能路由器设置中&#xff0c;都可以找到DDNS&#xff08;动态DNS&#xff09;功能。 上面的解释可能过于专业&#xff0c;其实DDNS通俗点说&#xf…

小程序社区团购demo

概述 实现了用户登录或者手机号&#xff0c;加入团长&#xff0c;邀请团长&#xff0c;各种佣金明细等页面 详细 需求&#xff1a; 根据市场信息反馈&#xff0c;社区团购比较火&#xff0c;有流量的用户可以推广页面 实现了功能&#xff1a; 实现了用户微信登录自动获取…

BottomNavigationView3个以上图标不显示文字

问题 当BottomNavigationView设置的菜单中超过三个图标时&#xff0c;出现只有焦点聚集到图标时才会显示底部设置的文字描述&#xff0c;当没有焦点聚集则只显示图标&#xff0c;效果如下&#xff1a; 解决办法 设置labelVisibilityMode值 如果BottomNavigationItemView类并…

Clock时钟电路PCB设计布局布线要求

时钟电路就是类似像时钟一样准确运动的震荡电路&#xff0c;任何工作都是依照时间顺序&#xff0c;那么产生这个时间的电路就是时钟电路&#xff0c;时钟电路一般是由晶体振荡器、晶振、控制芯片以及匹配电容组成&#xff0c;如图1所示。 图1 时钟电路 针对时钟电路PCB设计有以…

k8s pod概念、分类及策略

目录 一.pod相关概念 &#xff12;.Kubrenetes集群中Pod两种使用方式 &#xff13;.pause容器的Pod中的所有容器共享的资源 &#xff14;.kubernetes中的pause容器主要为每个容器提供功能&#xff1a; &#xff16;.Pod分为两类&#xff1a; 二.Pod容器的分类 1.基础容器…