设为首页 收藏本站
查看: 873|回复: 0

[经验分享] CentOS 7上部署MongoDB分片群集(MongoDB 3.2.1版本)

[复制链接]

尚未签到

发表于 2018-10-24 11:03:00 | 显示全部楼层 |阅读模式
什么是分片?
  高数据量和吞吐量的数据库应用会对单机的性能造成较大压力,大的查询量会将单机的CPU耗尽,大的数据量对单机的存储压力较大,最终会耗尽系统的内存而将压力转移到磁盘IO上。
  MongoDB分片是使用多个服务器存储数据的方法,以支持巨大的数据存储和对数据进行操作。分片技术可以满足MongoDB数据量大量增长的需求,当一台MongoDB服务器不足以存储海量数据或不足以提供可接受的读写吞吐量时,我们就可以通过在多台服务器上分割数据,使得数据库系统能存储和处理更多的数据。

MongoDB分片优势
  分片为应对高吞吐量与大数据量提供了方法。


  • 使用分片减少了每个分片需要处理的请求数,因此,通过水平扩展,群集可以提高自己的存储容量和吞吐量。比如,当插入一条数据时,应用只需要访问存储这条数据的分片。
  • 使用分片减少了每个分片存储的数据。
  分片的优势在于提供类似线性增长的架构,提高数据可用性,提高大型数据库查询服务器的性能。当MongoDB单点数据库服务器存储成为瓶颈、单点数据库服务器的性能成为瓶颈或者需要部署大型应用以充分利用内存时,可以使用分片技术。
  MongoDB分片结构如下图所示:
DSC0000.jpg


MongoDB分片群集组成
  MongoDB分片群集主要有如下三个主要组件:


  • Shard:分片服务器,用于存储实际的数据块,实际生产环境中一个shard server角色可由几台服务器组成一个Replica Set承担,防止主机单点故障。
  • Config Server:配置服务器,存储了整个分片群集的配置信息,其中包括chunk信息。
  • Routers:前端路由,客户端由此接入,且让整个群集看上去像单一数据库,  前端应用可以透明使用。

  MongoDB分片群集的组成如下图所示:
DSC0001.jpg


部署MongoDB分片群集
  下面介绍如何在一台物理服务器上部署一个简单结构的MongoDB分片群集。
  

物理服务器IP地址:192.168.10.154/24  
MongoDB软件包:mongodb-linux-x86_64-3.2.1.tgz
  

  
具体配置如下:
  
- 1台路由实例(端口27017)
  
- 1台配置实例(端口37017)
  
- 2台Shard实例(端口47017,47018)
  

  部署简单结构的MongoDB分片群集如下图所示:
DSC0002.jpg


一、安装MongoDB 3.2

1、安装支持软件包
  

yum install openssl-devel -y  

2、解压MongoDB软件包
  

tar zxvf mongodb-linux-x86_64-3.2.1.tgz -C /opt/  

3、移动MongoDB解压后的文件夹到/usr/local/目录下并重命名为mongodb
  

cd /opt/  
mv mongodb-linux-x86_64-3.2.1/ /usr/local/mongodb
  

4、创建数据存储目录及日志存放位置
  

mkdir -p /data/mongodb/mongodb{1,2,3,4}   //创建数据存储目录  
mkdir /data/mongodb/logs    //创建日志存放位置
  
touch /data/mongodb/logs/mongodb{1,2,3,4}.log    //日志文件
  
chmod -R 777 /data/mongodb/logs/*.log    //给日志文件加权限才可往里面写入
  

  

5、调整shell资源的设置,防止过多访问MongoDB出现错误而无法连接MongoDB实例
  

ulimit -n 25000   //同一时刻最多开启文件数  
ulimit -u 25000   //同一时刻最多开启程序数
  

二、部署配置服务器

1、创建mongodb1.conf配置文件
  

cd /usr/local/mongodb/bin/  
vim mongodb1.conf
  

port=37017          //端口号  
dbpath=/data/mongodb/mongodb1    //数据存放位置
  
logpath=/data/mongodb/logs/mongodb1.log   //日志存放位置
  
logappend=true   //使用追加方式写日志
  
fork=true    //后台运行
  
maxConns=5000    //最大同时连接数,默认2000
  
storageEngine=mmapv1   //指定存储引擎为内存映射文件
  
configsvr=true   //指定为配置服务器
  

2、启动配置服务器
  

mongod -f /usr/local/mongodb/bin/mongodb1.conf  

DSC0003.jpg


三、部署分片服务器

1、复制配置服务器的配置文件并编辑修改
  

cd /usr/local/mongodb/bin/  
cp -p mongodb1.conf mongodb2.conf
  
cp -p mongodb1.conf mongodb3.conf
  
vim mongodb2.conf
  

port=47017    //端口号  
dbpath=/data/mongodb/mongodb2    //数据存放位置
  
logpath=/data/mongodb/logs/mongodb2.log   //日志存放位置
  
logappend=true
  
fork=true
  
maxConns=5000
  
storageEngine=mmapv1
  
shardsvr=true   //指定为分片服务器
  

vim mongodb3.conf  

port=47018    //端口号  
dbpath=/data/mongodb/mongodb3    //数据存放位置
  
logpath=/data/mongodb/logs/mongodb3.log   //日志存放位置
  
logappend=true
  
fork=true
  
maxConns=5000
  
storageEngine=mmapv1
  
shardsvr=true     //指定为分片服务器
  

2、启动两个分片服务器
  

mongod -f mongodb2.conf  
mongod -f mongodb3.conf
  

DSC0004.jpg

DSC0005.jpg


四、启动路由服务器
  通过./mongos --help命令可以查看启动路由相关参数信息。chunkSize为数据块大小,默认为200MB,为了便于测试这里将值设置为1。
  

./mongos --port 27017 --fork --logpath=/usr/local/mongodb/bin/route.log --configdb 192.168.10.154:37017 --chunkSize 1  

DSC0006.jpg


五、启用分片服务器
  连接到路由实例后,可以通过sh.status()命令查看分片状态信息
  

mongo          //进入路由实例  

mongos> sh.status()      //shards下为空,没有分片服务器  

DSC0007.jpg

  

mongos> sh.addShard("192.168.10.154:47017")   //添加分片服务器  
mongos> sh.addShard("192.168.10.154:47018")   //添加分片服务器
  
mongos> sh.status()    //再次查看便有分片服务器
  

DSC0008.jpg


六、实现分片功能
  添加了两个分片服务器后,数据库和集合还未启用分片,这里我先创建一个xxy数据库,并创建集合
  

mongos> use xxy  
mongos> db.users.insert({"id":1,"name":"zhangsan"})
  
mongos> show dbs
  

DSC0009.jpg

  可利用循环语句写入多条信息
  

mongos> for(var i=2;i show collections
  
mongos> db.users.find().limit(5)  //查看users集合里的前五条数据
  

DSC00010.jpg

  使用sh.status()命令查看分片状态信息。"partitioned"值为false表示数据库尚未分片。
  

mongos> sh.status()          //查看数据库分片信息  

DSC00011.jpg

  使用sh.enableSharding("xxy")命令启用xxy数据库分片。再次查看发现"partitioned"值为true
  

mongos> sh.enableSharding("xxy")      //启用数据库分片  

DSC00012.jpg

  针对users表创建索引,然后使用sh.shardCollection("xxy.users",{"id":1})命令对users集合进行分片
  

mongos> db.users.createIndex({"id":1})     //对users表创建索引  

  
mongos> sh.shardCollection("kgc.users",{"id":1})  //表分片
  

  
mongos> sh.status()
  

DSC00013.jpg

DSC00014.jpg

  此时可以看到chunks均匀分布到两个分片上



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-625848-1-1.html 上篇帖子: 【MongoDB】管理命令收集 下篇帖子: 在CentOS上部署MongoDB数据库
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表