设为首页 收藏本站
查看: 855|回复: 0

[经验分享] dubbo+zookeeper构建高可用分布式集群

[复制链接]

尚未签到

发表于 2019-1-8 12:12:30 | 显示全部楼层 |阅读模式
  不久前,我们讨论过Nginx+tomcat组成的集群,这已经是非常灵活的集群技术,但是当我们的系统遇到更大的瓶颈,全部应用的单点服务器已经不能满足我们的需求,这时,我们要考虑另外一种,我们熟悉的内容,就是分布式,而当下流行的Dubbo框架,不容我们忽视,这里,咱们一起来探讨一下这个框架的使用。
  一,背景
  以前我们需要远程调用他人的接口,我们是这么做的:

  我们遇到的问题:
  (1) 当服务越来越多时,服务URL配置管理变得非常困难,F5硬件负载均衡器的单点压力也越来越大。
  此时需要一个服务注册中心,动态的注册和发现服务,使服务的位置透明。
  并通过在消费方获取服务提供方地址列表,实现软负载均衡和Failover,降低对F5硬件负载均衡器的依赖,也能减少部分成本。
  (2) 当进一步发展,服务间依赖关系变得错踪复杂,甚至分不清哪个应用要在哪个应用之前启动,架构师都不能完整的描述应用的架构关系。
  这时,需要自动画出应用间的依赖关系图,以帮助架构师理清理关系。
  (3) 接着,服务的调用量越来越大,服务的容量问题就暴露出来,这个服务需要多少机器支撑?什么时候该加机器?
  为了解决这些问题,第一步,要将服务现在每天的调用量,响应时间,都统计出来,作为容量规划的参考指标。
  其次,要可以动态调整权重,在线上,将某台机器的权重一直加大,并在加大的过程中记录响应时间的变化,直到响应时间到达阀值,记录此时的访问量,再以此访问量乘以机器数反推总容量。
  为解决这些问题,Dubbo为我们做了什么呢:

  负载均衡:

  这就是所谓的软负载均衡!
  现在让我们一起来接触下这个优秀的框架:
  简介
  架构如图:

  节点角色说明:
  Provider: 暴露服务的服务提供方。
  Consumer: 调用远程服务的服务消费方。
  Registry: 服务注册与发现的注册中心。
  Monitor: 统计服务的调用次调和调用时间的监控中心。
  Container: 服务运行容器。
  调用关系说明:
  0. 服务容器负责启动,加载,运行服务提供者。
  1. 服务提供者在启动时,向注册中心注册自己提供的服务。
  2. 服务消费者在启动时,向注册中心订阅自己所需的服务。
  3. 注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。
  4. 服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。
  5. 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。
  Dubbo提供了很多协议,Dubbo协议、RMI协议、Hessian协议,我们查看Dubbo源代码,有各种协议的实现,如图所示:

  我们之前没用Dubbo之前时,大部分都使用Hessian来使用我们服务的暴露和调用,利用HessianProxyFactory调用远程接口。
  上面是参考了Dubbo官方网介绍,接下来我们来介绍SpringMVC、Dubbo、Zookeeper整合使用。
  第三:Dubbo与Zookeeper、SpringMVC整合使用
  第一步:在Linux上安装Zookeeper
  Zookeeper作为Dubbo服务的注册中心,Dubbo原先基于数据库的注册中心,没采用Zookeeper,Zookeeper一个分布式的服务框架,是树型的目录服务的数据存储,能做到集群管理数据 ,这里能很好的作为Dubbo服务的注册中心,Dubbo能与Zookeeper做到集群部署,当提供者出现断电等异常停机时,Zookeeper注册中心能自动删除提供者信息,当提供者重启时,能自动恢复注册数据,以及订阅请求。我们先在linux上安装Zookeeper,我们安装最简单的单点,集群比较麻烦。
  先需要安装JdK,从Oracle的Java网站下载,安装很简单,就不再详述。
单机模式

  单机安装非常简单,只要获取到 Zookeeper 的压缩包并解压到某个目录如:C:\zookeeper-3.4.5\下,Zookeeper 的启动脚本在 bin 目录下,Windows 下的启动脚本是 zkServer.cmd。
  在你执行启动脚本之前,还有几个基本的配置项需要配置一下,Zookeeper 的配置文件在 conf 目录下,这个目录下有 zoo_sample.cfg 和 log4j.properties,你需要做的就是将 zoo_sample.cfg改名为 zoo.cfg,因为 Zookeeper 在启动时会找这个文件作为默认配置文件。下面详细介绍一下,这个配置文件中各个配置项的意义。
# The number of milliseconds of each tick  
tickTime=2000
  
# The number of ticks that the initial
  
# synchronization phase can take
  
initLimit=10
  
# The number of ticks that can pass between
  
# sending a request and getting an acknowledgement
  
syncLimit=5
  
# the directory where the snapshot is stored.
  
# do not use /tmp for storage, /tmp here is just
  
# example sakes.
  
dataDir=C:\\zookeeper-3.4.5\\data
  
dataLogDir=C:\\zookeeper-3.4.5\\log
  
# the port at which the clients will connect
  
clientPort=2181
  
#
  
# Be sure to read the maintenance section of the
  
# administrator guide before turning on autopurge.
  
#
  
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
  
#
  
# The number of snapshots to retain in dataDir
  
#autopurge.snapRetainCount=3
  
# Purge task interval in hours
  
# Set to "0" to disable auto purge feature
  
#autopurge.purgeInterval=1

  •   tickTime:这个时间是作为 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔,也就是每个 tickTime 时间就会发送一个心跳。
  •   dataDir:顾名思义就是 Zookeeper 保存数据的目录,默认情况下,Zookeeper 将写数据的日志文件也保存在这个目录里。
  •   dataLogDir:顾名思义就是 Zookeeper 保存日志文件的目录
  •   clientPort:这个端口就是客户端连接 Zookeeper 服务器的端口,Zookeeper 会监听这个端口,接受客户端的访问请求。
  当这些配置项配置好后,你现在就可以启动 Zookeeper 了,启动后要检查 Zookeeper 是否已经在服务,可以通过 netstat – ano 命令查看是否有你配置的 clientPort 端口号在监听服务。
  第二步:配置dubbo-admin的管理页面,方便我们管理页面(参考:https://www.cnblogs.com/shengulong/p/8303454.html)
  那就直接去下载他们打包好的源代码吧:https://github.com/alibaba/dubbo/releases

  1、解压后,根目录里存在dubbo-admin,进入 mvn package -Dmaven.test.skip=true
安装完后,生成target目录,进入这个目录,找到dubbo-admin-2.6.0这个目录,把这个目录全部copy到tomcat的目录webapps下的ROOT下面(删除tomcatwebapps目录下ROOT原有内容)
  2、解压后,根目录里存在dubbo-admin,进入 mvn install -Dmaven.test.skip=true
安装完后,生成target目录,进入这个目录,找到dubbo-admin-2.6.0.war,把这个war包copy到tomcat的目录webapps下的ROOT下面(删除tomcatwebapps目录下ROOT原有内容),然后使用jar xvf
dubbo-admin-2.6.0.war解压war包,把解压后的内容全部放到ROOT目录下
  启动tomcat,就可以看到dubbo-admin的界面,默认帐号密码root/root

  在目录/home/admin/apache-tomcat-8.5.24/webapps/ROOT/WEB-INF下的配置dubbo.properties,修改帐号密码,以及注册信息

  (1)下载dubbo-admin-war包,在windows的tomcat部署,先把dubbo-admin-放在tomcat的webapps/ROOT下,然后进行解压
  (2)然后到webapps/ROOT/WEB-INF下,有一个dubbo.properties文件,里面指向Zookeeper ,使用的是Zookeeper 的注册中心,如图所示:
dubbo.registry.address=zookeeper://127.0.0.1:2181  
dubbo.admin.root.password=root
  
dubbo.admin.guest.password=guest
  用户名和密码:root,并访问服务,显示登陆页面,说明dubbo-admin部署成功,如图所示:

  第三步:SpringMVC与Dubbo的整合,这边使用的Maven的管理项目
  第一:我们先开发服务注册的,就是提供服务,项目结构如图所示:

  (1)test-maven-api项目加入了一个服务接口,代码如下:
public interface TestRegistryService {  
   public String hello(String name);
  
}
  (2)test-maven-console在pom.xml加入Dubbo和Zookeeper的jar包、引用test-maven-api的jar包,代码如下:
  
          cn.test
  
          test-maven-api
  
          0.0.1-SNAPSHOT
  
      
  

  
      
  
            com.alibaba
  
            dubbo
  
            2.5.3
  
        
  

  
         
  
            org.apache.zookeeper
  
            zookeeper
  
            3.4.6
  
        
  

  
      
  
          com.github.sgroschupf
  
         zkclient
  
         0.1
  

  (3)test-maven-console实现具体的服务,代码如下:
@Service("testRegistryService")  
public class TestRegistryServiceImpl implements TestRegistryService {
  
    public String hello(String name) {
  
        return "hello"+name;
  
    }
  
}
  (4)我们服务以及实现好了,这时要暴露服务,代码如下:
  

  
   
  
   
  
   
  
   
  
  
  
  
  

  说明:
  dubbo:registry 标签一些属性的说明:
  1)register是否向此注册中心注册服务,如果设为false,将只订阅,不注册。
  2)check注册中心不存在时,是否报错。
  3)subscribe是否向此注册中心订阅服务,如果设为false,将只注册,不订阅。
  4)timeout注册中心请求超时时间(毫秒)。
  5)address可以Zookeeper集群配置,地址可以多个以逗号隔开等。
  dubbo:service标签的一些属性说明:
  1)interface服务接口的路径
  2)ref引用对应的实现类的Bean的ID
  3)registry向指定注册中心注册,在多个注册中心时使用,值为的id属性,多个注册中心ID用逗号分隔,如果不想将该服务注册到任何registry,可将值设为N/A
  4)register 默认true ,该协议的服务是否注册到注册中心。
  (5)启动项目,然后我们在Dubbo管理页面上显示,已经暴露的服务,但显示还没有消费者,因为我们还没实现消费者服务,如图所示:

  第二:我们在开发服务消费者,就是调用服务,我们在新建一个新的消费者项目:
  (1)test-maven-server-console的pom.xml引入Dubbo和Zookeeper的jar包、test-maven-api的jar包,因为引入test-maven-api的jar包,我们在项目中调用像在本地调用一样。代码如下:
  
          cn.test
  
          test-maven-api
  
          0.0.1-SNAPSHOT
  
      
  

  
      
  
            com.alibaba
  
            dubbo
  
            2.5.3
  
        
  

  
         
  
            org.apache.zookeeper
  
            zookeeper
  
            3.4.6
  
        
  

  
      
  
          com.github.sgroschupf
  
         zkclient
  
         0.1
  

  (2)test-maven-server-console项目的具体实现,代码如下:
@Controller  
public class IndexController {
  

  
    @Autowired
  
    private TestRegistryService testRegistryService;
  

  
    @RequestMapping("/hello")
  
    public String index(Model model){
  
         String name=testRegistryService.hello("zz");
  
         System.out.println("xx=="+name);
  
        return "";
  
    }
  

  
}
  (3)我们要引用的地址,代码如下:
  

  

  
   
  
   
  
   
  
     
  
   
  

  说明:
  dubbo:reference 的一些属性的说明:
  1)interface调用的服务接口
  2)check 启动时检查提供者是否存在,true报错,false忽略
  3)registry 从指定注册中心注册获取服务列表,在多个注册中心时使用,值为的id属性,多个注册中心ID用逗号分隔
  4)loadbalance 负载均衡策略,可选值:random,roundrobin,leastactive,分别表示:随机,轮循,最少活跃调用
  (4)项目启动,Dubbo管理页面,能看到消费者,如图所示:

  (5)然后访问消费者项目,Controller层能像调用本地一样调用服务的具体实现,如图所示:

  总结:
  经过一系列的操作之后,我们感觉,的确很简单,dubbo给我们封装了很多操作,让我们不需要过多考虑具体的实现细节,配置化生成咱们的应用,这样的思想,现在在IT行业正在盛行!
  原文链接:http://blog.csdn.net/xvshu/article/details/47667235
  另外的好文章:http://blog.csdn.net/hejingyuan6/article/details/47403299
  异常问题:
  如果在消费者中连接不是提供者出现异常信息:
  Caused by: org.jboss.netty.channel.ConnectTimeoutException: connection timed  提供者ip:20880
  解决:

  •   firewall-cmd --add-port=20880/tcp
  开放提供者的20880端口 就可以



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-660754-1-1.html 上篇帖子: HBase-1.0.1学习笔记(五)How HBase Master selection with Zookeeper 下篇帖子: zookeeper 应用场景
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表