mogilefs高级应用(3)
mogilefs高级应用架构图：
http://s5.运维网.com/wyfs02/M00/8A/FD/wKiom1hALQHyUPRTAAAdgHL7tZY802.png-wh_500x0-wm_3-wmp_4-s_1830263661.png
实验说明：
1个mysql+3个即是mogstored又是tracker节点+1个nginx实现反代
为了使用更少的主机,我们采用2台主机
nginx + mogstored + tracker
mysql + mogstored + tracker
这里首先快速部署 mogstored + tracker 环境 (详细部署请参照上篇博客)
1.首先对mysql服务器进行设置
mysql > grant all on mogdb.* to 'moguser'@'10.1.%.%' identified by 'mogpass';
mysql > grant all on *.* to 'root'@'10.1.%.%' identified by 'root';
--> 此权限过大,生成环境中可按需调整
mysql > flush privileges;
2.tracker + mogstored 配置
tracker配置：
# mogdbsetup --dbhost=10.1.249.125 --dbport=3306 --dbname=mogdb \
> --dbrootuser=root --dbrootpass=root --dbuser=moguser --dbpass=mogpass
# vim /etc/mogilefs/mogilefsd.conf
db_dsn = DBI:mysql:mogdb:host=10.1.249.125
db_user = moguser
db_pass = mogpass
listen = 0.0.0.0:7001
# service mogilefsd start
# ss -tln | grep "7001"
3.配置此台服务器同时为mogstored端
# mkdir -pv /var/mogdata/dev1
# chown -Rmogilefs.mogilefs /var/mogdata/
# yum -y install perl-IO-AIO
# service mogstored start
# netstat -tlnp | grep "mogstored"
# mogadm --trackers=10.1.249.125:7001 host add 10.1.249.125 --ip=10.1.249.125 --status=alive
//如果创建失败,可能是由于 /etc/hosts文件的解析和真正的主机名不一致,修改/etc/hosts文件即可
# scp /etc/mogilefs/* 10.1.252.53:/etc/mogilefs/
--> 复制到另一个服务器,两个服务器使用相同的配置文件
4.配置另一台服务器同时作为tracker+mogstored
此时,该服务器作为tracker时,不需要再初始化数据库了,第一个已经初始化过了
# mkdir /var/mogdata/dev3 -pv --> 此处创建的目录需要和创建设备的名称保存一致
# chown -R mogilefs.mogilefs /var/mogdata/
# chown -R mogilefs.mogilefs /var/run/mogilefsd/
# service mogilefsd start
# service mogstored start
# mogadm --trackers=10.1.252.53:7001 host add 10.1.252.53 --ip=10.1.252.53 --status=alive
5.相互添加对方的主机
# mogadm --trackers=10.1.252.53:7001 host add 10.1.249.125 --ip=10.1.249.125 --status=alive
# mogadm --trackers=10.1.249.125:7001 host add 10.1.252.53 --ip=10.1.252.53 --status=alive
# mogadm --trackers=10.1.249.125:7001 host list
10.1.249.125 : alive
IP: 10.1.249.125:7500
10.1.252.53 : alive
IP: 10.1.252.53:7500
# mogadm --trackers=10.1.252.53:7001 host list
10.1.249.125 : alive
IP: 10.1.249.125:7500
10.1.252.53 : alive
IP: 10.1.252.53:7500
6.添加设备,在同一个tracker操作即可
# mogadm --trackers=10.1.249.125:7001 device add 10.1.249.125 1
# mogadm --trackers=10.1.249.125:7001 device add 10.1.252.53 3--> 和上述创建的目录保存一致
# mogadm --trackers=10.1.249.125:7001 device list
10.1.249.125 : alive
used(G) free(G) total(G)weight(%)
dev1: alive 6.484 84.630 91.114 100
10.1.252.53 : alive
used(G) free(G) total(G)weight(%)
dev3: alive 6.176 84.938 91.114 100
7.创建domain
# mogadm --trackers=10.1.249.125:7001 domain add images
# mogadm --trackers=10.1.249.125:7001 domain add files
# mogadm --trackers=10.1.249.125:7001 domain list
domain class mindevcount replpolicy hashtype
-------------------- -------------------- ------------- ------------ -------
files default 2 MultipleHosts() NONE
images default 2 MultipleHosts() NONE
8.创建class
# mogadm --trackers=10.1.252.53:7001 class add images class0 --mindevcount=2
# mogadm --trackers=10.1.252.53:7001 class add images class1 --mindevcount=2
# mogadm --trackers=10.1.252.53:7001 class list
domain class mindevcount replpolicy hashtype
-------------------- -------------------- ------------- ------------ -------
files default 2 MultipleHosts() NONE
images class0 2 MultipleHosts() NONE
images class1 2 MultipleHosts() NONE
images default 2 MultipleHosts() NONE
9.nginx配置
编译安装nginx使其支持mogilefs模块
# tar xf nginx_mogilefs_module-1.0.4.tar.gz
# tar xf nginx-1.8.0.tar.gz
# cd nginx-1.8.0
# ./configure \
--prefix=/usr \
--sbin-path=/usr/sbin/nginx \
--conf-path=/etc/nginx/nginx.conf \
--error-log-path=/var/log/nginx/error.log \
--http-log-path=/var/log/nginx/access.log \
--pid-path=/var/run/nginx/nginx.pid\
--lock-path=/var/lock/nginx.lock \
--user=nginx \
--group=nginx \
--with-http_ssl_module \
--with-http_flv_module \
--with-http_stub_status_module \
--with-http_gzip_static_module \
--http-client-body-temp-path=/var/tmp/nginx/client/ \
--http-proxy-temp-path=/var/tmp/nginx/proxy/ \
--http-fastcgi-temp-path=/var/tmp/nginx/fcgi/ \
--http-uwsgi-temp-path=/var/tmp/nginx/uwsgi \
--http-scgi-temp-path=/var/tmp/nginx/scgi \
--with-pcre \
--with-debug \
--add-module=(nginx_mogilefs_module-1.0.4模块的路径)
# make && make install
nginx反代mogilefs的配置文件
upstream mogilefscluster{
server 10.1.252.53:7001;
server 10.1.249.125:7001;
}
location /images/ {
mogilefs_tracker mogilefscluster;
mogilefs_domain images;
mogilefs_pass {
proxy_pass $mogilefs_path;
proxy_hide_header Content-Type;
proxy_buffering off;
}
}
10.后端节点上传一张图片,用来做测试(后端两台服务器随便选择一台即可)
# mogupload --trackers=10.1.252.53:7001 --domain=images --key='1.jpg' --file='/tmp/1.jpg'
# mogupload --trackers=10.1.252.53:7001 --domain=images --key='2.jpg' --file='/tmp/2.jpg'
# moglistkeys --trackers=10.1.252.53:7001 --domain=images
1.jpg
2.jpg
11.查看真实访问路径
# mogfileinfo -trackers=10.1.252.53:7001 --domain=images --key="1.jpg"
- http://10.1.252.53:7500/dev3/0/000/000/0000000018.fid
- http://10.1.249.125:7500/dev1/0/000/000/0000000018.fid
--> 可以看到有两个,由于我们有两个mogstored,所有mogilefs自动帮我们做了冗余
http://s3.运维网.com/wyfs02/M00/8A/FD/wKiom1hAKoehAFkYAAE8jv9BRhk068.png-wh_500x0-wm_3-wmp_4-s_3746670928.png
12.被nginx反代后的访问路径
http://IP/images/1.jpg
http://IP/images/2.jpg
http://s1.运维网.com/wyfs02/M00/8A/F9/wKioL1hAKtXxFNJpAAErohnPQqw956.png-wh_500x0-wm_3-wmp_4-s_2985159923.png
http://s2.运维网.com/wyfs02/M01/8A/FD/wKiom1hAKvbi8M09AAHhFzXUINI599.png-wh_500x0-wm_3-wmp_4-s_3831260863.png
页:
[1]