Spring Cloud微服务之loadbalancer负载平衡
小学时候,曾经做过这样的数学题。
说有一个水池子,上面有一个排水管,下面有一个进水管,开一个进水管,6个小时灌满水池,开一个排水管,10个小时放光整个水池的水。现在同时打开排水管和进水管,多少个小时能灌满整个池子。
带来的问题是:为什么不节约用水,浪费多少水费,现在水费这么贵。
不过问题就是一个问题,现在问题在升级,如果有上面还是那个进水管,只不过有两个出水管,一个排水管还是6个小时灌满水池,一个排水管还是10个小时放光整个水池的水,同时打开这个进水管和两个排水管,多少时间灌满整个水池。
带来的问题是:这会更浪费水,因为灌不满这个水池了。
当然也带来了负载平衡的道理。
一、负载平衡的概念
负载均衡,英文名称为Load Balance,其含义就是指将负载(工作任务)进行平衡、分摊到多个操作单元上进行运行。
同样是进水,利用负载平衡的道理,不能让每一个进水管歇着,你工作所以我工作。
某些工作出现的早中晚三班导,采用了不固定的方式,每个人都不会固定,说不定你上早班,说不定你上中班,说不定你上晚班,下次就进行轮值了。负载平衡的良好写照。
听说有皇帝的时候,皇帝是后宫佳丽三千,每天晚上靠“翻牌子”来决定谁是被宠爱的。如果当时有懂“负载平衡”道理的太监就会发现,三千佳丽就会协调安排,皇帝也会照顾到每一位佳丽,但也有一个问题,一个佳丽要想重复被庞幸,大概需要十年。就是怕,一首歌唱的“十年之后,我们是朋友,还可以问候,只是那种温柔,再也找不到拥抱的理由”。
还是谈回负载平衡。
负载均衡,是指将负载(工作任务)进行平衡、分摊到多个操作单元上进行运行。
你讨厌的领导下发一个超级变态的任务,工作量大到交给一个人无法完成,于是就需要几个天选的打工人过来一起处理,把大任务分解成多个小任务分配给不同的人,完成分配任务的就叫负载均衡。
负载平衡表现有微服务中,当用户访问一个请求,需要获取服务器上的资源及相关信息,有很多服务器有这样的资源和相关信息,具体由哪个服务器来提供服务,就由负载平衡来决定,如下图所示。
二、负载平衡的算法
谈完负载平衡的概念。来谈一下负载平衡的算法。
还是从一个数学问题谈起吧。
一个飞机上乘载了20个人,结果在飞行过程中出现了故障,需要20个人跳伞求生,只有一个舱门,然后就会一个一个从舱门跳下去。
上面是一个简单的处理负载平衡的方法,一个用户访问资源,每个服务器轮流服务。
现在数学问题升级。
飞机上乘载了20个人,只有19个降落伞,飞机上有前端工程师,有后端工程师,有前台,有项目经理,有产品经理,有UI设计师,有测试人员,你觉得跳伞的顺序是什么,或者说谁是哪个没有降落伞的人。
问题也来了,好像不是一个数学问题,是一个逻辑的问题。
还有,就是必须对这些人的重要性做一些对比,还是一个舱门,还是一个一个打开降落伞下落,只不过需要把下落的人一个一个按照重要性站好队,然后一个一个轮流跳下去。
这里就是负载平衡的算法思维。
负载均衡的算法有多种分类,这里介绍为大家介绍三种常见的,分别是轮询、加权轮询、最小连接。
轮询
简单的轮询,就是把来自用户的请求轮流分配给内部的服务器:从服务器1开始,直到服务器N,然后重新开始循环。
这就是飞机上的降落伞够数,一个一个从舱门中跳下去。
也就是说,从第一个服务器开始分配用户,到每个服务器都能分到一位用户,等到全部服务器都有被分到用户后,就开始第二轮分配,以此类推。
加权轮询
这里需要给服务器设置权重并遵循轮询的模式,根据服务器的不同处理能力,给每个服务器分配不同的权值,使其能够接受相应权值数的服务请求。
假设这里有服务器A、B、C、D,分别设置2、2、1、1的权重,当有一个用户访问时,首先有A或B来服务,这两个服务器权重相同,如有4个用户来访问,就需要每个服务器进行工作,如果有100位用户分配给这四个服务器时,分配顺序会根据处理的速度及权重来决定,不过最开始服务的应该是A或B。
这就是前面数学问题中飞机上降落伞不够数你要让谁先跳伞去逃生。
最小连接
指每次有用户访问时,看当前哪个服务器的连接数最少就分配给哪个服务器。最小连接法是动态负载均衡算法,适用于各个服务器处理的性能相似的时候。
最小连接数法是根据服务器当前的连接情况进行负载均衡的,当请求到来时,会选取当前连接数最少的一台服务器来处理请求。
这个算法相当于飞机故障,还是要完成跳伞,只不过谁系好了伞包,谁做好了心理准备,谁就走到舱门去跳下去。
三、微服务EurekaServer的建立
1、点击File--->New---->Project.....,如下图。
2、在弹出的地话框中,左边点击Spring Initializr,表示Spring的初始程序,右边在默认的地方可能会初始化失败,需要选择自定义的地址:http://start.aliyun.com。如下图所示。
3、在接下来的弹出框中输入spring cloud项目名称的Group和artifactId。如下图所示。
4、点击Next进入下一步,左边先点击Web,右边点击Spring web可以建立Web应用程序。如下图。
5、继续在这个对话框中,左边点击Spring Cloud Discovery,右边点击Eureka Server,如下图所示。
6、然后点击Next进入到“下一步”,会出现对话框。如下图所示。
7、在出现的对话框中,点击Finish后完成项目的构建向导。
项目框架建立后,修改主程序中的主类,如下图所示。
8、在打开的主程序中,加入注解@EnableEurekaServer。如下图所示。
最终,eurekaserver的程序代码如下。
-
package com.
myfirsteurekabalance.
myfirsteurekabalance;
-
-
import org.
springframework.
boot.
SpringApplication;
-
import org.
springframework.
boot.
autoconfigure.
SpringBootApplication;
-
import org.
springframework.
cloud.
netflix.
eureka.
server.
EnableEurekaServer;
-
@SpringBootApplication
-
@EnableEurekaServer
-
public
class
MyfirsteurekabalanceApplication {
-
-
public
static
void
main(
String[] args) {
-
SpringApplication.
run(
MyfirsteurekabalanceApplication.
class, args);
-
}
-
-
}
9、下面需要编辑resources下面的application.yml文件,在原来的resouces目录下只有application.properties,需要把application.properties改成application.yml。然后编辑该文件。
10、application.yml的文件内容如下。
-
# 应用名称
-
spring:
-
application:
-
name: myfirsteurekabalance
-
# 应用服务 WEB 访问端口
-
server:
-
port:
8011
-
eureka:
-
client:
-
register-
with-
eureka:
true
-
fetch-
registry:
false
-
service-
url:
-
defaultZone:
http:/
/localhost:8011/eureka
-
instance:
-
hostname: myprovider1
其文件内容的解释如下 。
四、Eureka客户端的搭建
1、同样点击File--->New----->Project....,如下图所示。
2、在打开的对话框中,左边继续点击Spring Initializr,表示Spring的初始程序,右边在默认的地方可能会初始化失败,需要选择自定义的地址:http://start.aliyun.com。如下图所示。
3、点击Next,然后在出现的对话框中输入项目名称。如下图所示。
4、在接下来出现的对话框中,左边选择Web,右边选择Spring Web。如下图所示。
5、继续在这个对话框中,左边选择Spring Cloud Discovery,右边选择Eureka Discovery Client。如下图所示。
6、然后点击下一步即Next,在出现的对话框中直接点击Finish完成项目建立的向导。如下图所示。
7、在主程序中输入EnableEurekeClient或者是@EnableDiscoveryClient都可以实现Eureka客户端的发现。
客户端的代码如下。
-
import org.
springframework.
boot.
SpringApplication;
-
import org.
springframework.
boot.
autoconfigure.
SpringBootApplication;
-
import org.
springframework.
cloud.
netflix.
eureka.
EnableEurekaClient;
-
-
@SpringBootApplication
-
@EnableEurekaClient
-
public
class
Myfirsteurekaclient01Application {
-
-
public
static
void
main(
String[] args) {
-
-
SpringApplication.
run(
Myfirsteurekaclient01Application.
class, args);
-
}
-
-
}
然后在客户端的package包下面建立一个config,并在config下面建立RestTemplateConfig的类文件,然后也要建立一个controller的包,在controller的包下面建立controller的类文件ConsumerController。结构如下图。
编辑config包下面的RestTemplateConfig文件,具体内容需要使用RestTemplate模板,然后重写RestTemplate模板。
代码如下。
-
package com.myeurekaclientexample01.myeurekaclientexample01.config;
-
import org.springframework.context.
annotation.Configuration;
-
import org.springframework.context.
annotation.Bean;
-
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
-
import org.springframework.web.client.RestTemplate;
-
@Configuration
-
public
class
RestTemplateConfig {
-
@Bean
-
@LoadBalanced
-
public RestTemplate restTemplate(){
-
return new RestTemplate();
-
}
-
}
这里指出LoadBalanced,其实就是做负载平衡。Bean需要指出java bean,此java bean主要是把RestTemplate转成Bean。
在Controller的类方法中把RestTemplate做为Autowired的注入,然后通过restTemplate的getForObject获取服务器的地址,这里设置负载平衡。
-
package com.myeurekaclientexample01.myeurekaclientexample01.controller;
-
import org.springframework.web.bind.
annotation.RestController;
-
import org.springframework.web.bind.
annotation.RequestMapping;
-
import org.springframework.web.bind.
annotation.PathVariable;
-
import org.springframework.beans.factory.
annotation.Autowired;
-
import org.springframework.web.client.RestTemplate;
-
import java.util.Map;
-
@RestController
-
@RequestMapping("/consumer")
-
public
class
ConsumerController {
-
@Autowired
-
private RestTemplate restTemplate;
-
@RequestMapping("/getall/{id}")
-
public Map getall(
@PathVariable("id")int id){
-
String url=
"http://myproviderexample/provider/getdata/"+id;
-
return restTemplate.getForObject(url,Map.
class);
-
}
-
}
这里做的负载平衡,意思是服务器有很多都具备provider的controller地址映射,请求url地址中的myproviderexample是在服务器中注册的controller服务地址。需要服务器中的application.yml中的application中的name是一致的。
这里可以实现多个客户端来提供provider生产者的控制器服务,application.yml中的instance中的name不同,但是application中的name选项一致。
具体其中一个客户端的controller服务下面描述。
五、loadbalance实现负载平衡的服务客户端设置
其建立方法仍然是客户端的设置方法,项目结构图如下。
其controller控制器的具体代码如下。
-
import java.util.Map;
-
import java.util.HashMap;
-
import java.util.UUID;
-
@RestController
-
@RequestMapping("/provider")
-
public
class
ProviderController {
-
@Autowired
-
private Environment env;
-
@RequestMapping("/getdata/{id}")
-
public Map
getdata
(@PathVariable("id")int id){
-
String providerName=env.getProperty(
"eureka.instance.hostname")+
":"+env.getProperty(
"server.port");
-
Map result=
new
HashMap();
-
result.put(
"status",
0);
-
result.put(
"msg",
"success");
-
result.put(
"provider",providerName);
-
result.put(
"get_id_value",id);
-
result.put(
"version",UUID.randomUUID().toString());
-
return result;
-
}
-
}
在请求的地址中获取环境的主机,并构建json数据,json数据中可以提供微服务中服务的服务器名称及服务器端口号。
在客户端的yml文件设置如下。
-
# 应用名称
-
spring:
-
application:
-
name: myprovider
-
# 应用服务 WEB 访问端口
-
server:
-
port: 8094
-
eureka:
-
client:
-
service-url:
-
defaultZone: http://localhost:8088/eureka
-
instance:
-
hostname: myprovider1
其设置的说明如下图所示。
关于windows中hosts的路径如下图所示。
图中所示的路径是: C:\windows\system32\drivers\etc。
在etc目录下有一个hosts文件,打开后,标明服务器名字的映射方式。如下图。
依照第五个主题的方式可以继续产生下一个提供provider服务的客户端,代码是一致的,只是application.yml中的instance选项下的hostname名字不同而已。
六、运行服务器
分别运行注册服务器,提供provider服务的若干服务端,负载平衡的服务端。
运行后,可以先从浏览器中请求地址,访问第一次。如下图所示。
再从浏览器中输入地址,访问第二次。如下图所示。
提供的服务器地址不同,采用了轮询的负载平衡的技术实现。
转载:https://blog.csdn.net/play_big_knife/article/details/128293728