设为首页 收藏本站
查看: 327|回复: 0

[经验分享] 关系型数据库之mysql-proxy实现读写分离

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2016-6-27 10:16:28 | 显示全部楼层 |阅读模式
简要:
  mysql-proxy作为mysql测试项目,可以实现读写分离架构,具有开发能力的公司通过二次开发的方式去完善bug应用在生产环境中,下面我们通过案例使用mysql-proxy实现读写分离。

准备环境:
1.系统环境:Centos6.5
2.数据库版本:10.0.10-MariaDB-log MariaDB Server
3.Host:
Master主机: master.samlee.com 172.16.100.7
Slave主机: slave.samlee.com 172.16.100.8
Proxy主机:proxy.samlee.com 172.16.100.9
架构图如下:
QQ截图20160627101614.png
---------------------------------------------------------------------------------------------------------
配置mysql-proxy服务器:
(1)安装部署mysql-proxy
1
2
3
4
# wget
# tar xf mysql-proxy-0.8.4-linux-glibc2.3-x86-64bit.tar.gz -C /usr/local/
# cd /usr/local/
# ln -sv mysql-proxy-0.8.4-linux-glibc2.3-x86-64bit mysql-proxy



(2)创建代理用户以及修改程序目录权限
1
2
# useradd -s /sbin/nologin -r mysql-proxy
# chown -R mysql-proxy.mysql-proxy /usr/local/mysql-proxy-0.8.4-linux-glibc2.3-x86-64bit/



(3)为mysql-proxy提供SysV服务脚本,内容如下所示:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
# vim /etc/rc.d/init.d/mysql-proxy
#!/bin/bash
#
# mysql-proxy This script starts and stops the mysql-proxy daemon
#
# chkconfig: - 78 30
# processname: mysql-proxy
# description: mysql-proxy is a proxy daemon for mysql

# Source function library.
. /etc/rc.d/init.d/functions

prog="/usr/local/mysql-proxy/bin/mysql-proxy"

# Source networking configuration.
if [ -f /etc/sysconfig/network ]; then
    . /etc/sysconfig/network
fi

# Check that networking is up.
[ ${NETWORKING} = "no" ] && exit 0

# Set default mysql-proxy configuration.
ADMIN_USER="admin"
ADMIN_PASSWD="admin"
ADMIN_LUA_SCRIPT="/usr/local/mysql-proxy/share/doc/mysql-proxy/admin.lua"
PROXY_OPTIONS="--daemon"
PROXY_PID=/var/run/mysql-proxy.pid
PROXY_USER="mysql-proxy"

# Source mysql-proxy configuration.
if [ -f /etc/sysconfig/mysql-proxy ]; then
    . /etc/sysconfig/mysql-proxy
fi

RETVAL=0

start() {
    echo -n $"Starting $prog: "
    daemon $prog $PROXY_OPTIONS --pid-file=$PROXY_PID --proxy-address="$PROXY_ADDRESS" --user=$PROXY_USER --admin-username="$ADMIN_USER" --admin-lua-script="$ADMIN_LUA_SCRIPT" --admin-password="$ADMIN_PASSWORD"
    RETVAL=$?
    echo
    if [ $RETVAL -eq 0 ]; then
        touch /var/lock/subsys/mysql-proxy
    fi
}

stop() {
    echo -n $"Stopping $prog: "
    killproc -p $PROXY_PID -d 3 $prog
    RETVAL=$?
    echo
    if [ $RETVAL -eq 0 ]; then
        rm -f /var/lock/subsys/mysql-proxy
        rm -f $PROXY_PID
    fi
}
# See how we were called.
case "$1" in
    start)
        start
        ;;
    stop)
        stop
        ;;
    restart)
        stop
        start
        ;;
    condrestart|try-restart)
        if status -p $PROXY_PIDFILE $prog >&/dev/null; then
            stop
            start
        fi
        ;;
    status)
        status -p $PROXY_PID $prog
        ;;
    *)
        echo "Usage: $0 {start|stop|restart|reload|status|condrestart|try-restart}"
        RETVAL=1
        ;;
esac

exit $RETVAL


--授予执行权限,加入服务列表自启动
# chmod +x /etc/rc.d/init.d/mysql-proxy
# chkconfig --add mysql-proxy




(4)为服务脚本提供配置文件/etc/sysconfig/mysql-proxy,内容如下所示:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
# vim /etc/sysconfig/mysql-proxy
# Options for mysql-proxy
ADMIN_USER="admin"
ADMIN_PASSWORD="admin"
ADMIN_ADDRESS=""
ADMIN_LUA_SCRIPT="/usr/local/mysql-proxy/share/doc/mysql-proxy/admin.lua"
PROXY_ADDRESS=""
PROXY_USER="mysql-proxy"
PROXY_OPTIONS="--daemon --log-level=info --log-use-syslog --plugins=proxy --plugins=admin --proxy-backend-addresses=172.16.100.7:3306 --proxy-read-only-backend-addresses=172.16.100.8:3306 --proxy-lua-script=/usr/local/mysql-proxy/share/doc/mysql-proxy/rw-splitting.lua"


最后一行运行选项,可以根据需要修改。     
    --proxy-backend-addresses=
    --proxy--read-only-backend-addresses=
    可以指定多次,从而指定多台服务器。

    其他常用选项如下
    mysql-proxy的配置选项大致可分为帮助选项、管理选项、代理选项及应用程序选项几类,下面一起去介绍它们。

    --help
    --help-admin
    --help-proxy
    --help-all ———— 以上四个选项均用于获取帮助信息;

    --proxy-address=host:port ———— 代理服务监听的地址和端口;
    --admin-address=host:port ———— 管理模块监听的地址和端口;
    --proxy-backend-addresses=host:port ———— 后端mysql服务器的地址和端口;
    --proxy-read-only-backend-addresses=host:port ———— 后端只读mysql服务器的地址和端口;
    --proxy-lua-script=file_name ———— 完成mysql代理功能的Lua脚本;
    --daemon ———— 以守护进程模式启动mysql-proxy;
    --keepalive ———— 在mysql-proxy崩溃时尝试重启之;
    --log-file=/path/to/log_file_name ———— 日志文件名称;
    --log-level=level ———— 日志级别;
    --log-use-syslog ———— 基于syslog记录日志;
    --plugins=plugin,.. ———— 在mysql-proxy启动时加载的插件;
    --user=user_name ———— 运行mysql-proxy进程的用户;
    --defaults-file=/path/to/conf_file_name ———— 默认使用的配置文件路径;其配置段使用[mysql-proxy]标识;
    --proxy-skip-profiling ———— 禁用profile;
    --pid-file=/path/to/pid_file_name ———— 进程文件名;



(5)复制如下内容建立admin.lua文件,将其保存至/usr/local/mysql-proxy/share/doc/mysql-proxy/目录中。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
# vim /usr/local/mysql-proxy/share/doc/mysql-proxy/admin.lua
--[[ $%BEGINLICENSE%$
Copyright (c) 2007, 2012, Oracle and/or its affiliates. All rights reserved.

This program is free software; you can redistribute it and/or
modify it under the terms of the GNU General Public License as
published by the Free Software Foundation; version 2 of the
License.

This program is distributed in the hope that it will be useful,
but WITHOUT ANY WARRANTY; without even the implied warranty of
MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
GNU General Public License for more details.

You should have received a copy of the GNU General Public License
along with this program; if not, write to the Free Software
Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA
02110-1301  USA

$%ENDLICENSE%$ --]]

function set_error(errmsg)
    proxy.response = {
        type = proxy.MYSQLD_PACKET_ERR,
        errmsg = errmsg or "error"
    }
end

function read_query(packet)
    if packet:byte() ~= proxy.COM_QUERY then
        set_error("[admin] we only handle text-based queries (COM_QUERY)")
        return proxy.PROXY_SEND_RESULT
    end

    local query = packet:sub(2)

    local rows = { }
    local fields = { }

    if query:lower() == "select * from backends" then
        fields = {
            { name = "backend_ndx",
              type = proxy.MYSQL_TYPE_LONG },

            { name = "address",
              type = proxy.MYSQL_TYPE_STRING },
            { name = "state",
              type = proxy.MYSQL_TYPE_STRING },
            { name = "type",
              type = proxy.MYSQL_TYPE_STRING },
            { name = "uuid",
              type = proxy.MYSQL_TYPE_STRING },
            { name = "connected_clients",
              type = proxy.MYSQL_TYPE_LONG },
        }

        for i = 1, #proxy.global.backends do
            local states = {
                "unknown",
                "up",
                "down"
            }
            local types = {
                "unknown",
                "rw",
                "ro"
            }
            local b = proxy.global.backends

            rows[#rows + 1] = {
                i,
                b.dst.name,          -- configured backend address
                states[b.state + 1], -- the C-id is pushed down starting at 0
                types[b.type + 1],   -- the C-id is pushed down starting at 0
                b.uuid,              -- the MySQL Server's UUID if it is managed
                b.connected_clients  -- currently connected clients
            }
        end
    elseif query:lower() == "select * from help" then
        fields = {
            { name = "command",
              type = proxy.MYSQL_TYPE_STRING },
            { name = "description",
              type = proxy.MYSQL_TYPE_STRING },
        }
        rows[#rows + 1] = { "SELECT * FROM help", "shows this help" }
        rows[#rows + 1] = { "SELECT * FROM backends", "lists the backends and their state" }
    else
        set_error("use 'SELECT * FROM help' to see the supported commands")
        return proxy.PROXY_SEND_RESULT
    end

    proxy.response = {
        type = proxy.MYSQLD_PACKET_OK,
        resultset = {
            fields = fields,
            rows = rows
        }
    }
    return proxy.PROXY_SEND_RESULT
end

--授予执行权限
# chown mysql-proxy.mysql-proxy /usr/local/mysql-proxy/share/doc/mysql-proxy/admin.lua
# chmod +x /usr/local/mysql-proxy/share/doc/mysql-proxy/admin.lua




(6)启动mysql-proxy代理服务
1
2
3
4
# service mysql-proxy start
# ss -tnl
LISTEN      0      128                                           *:4041                                         *:*     
LISTEN      0      128                                           *:3306                                         *:*



(7)配置Master与Slave主机为主从复制模式
1
2
3
4
5
6
7
8
9
10
11
12
13
Master配置:
# mkdir -pv /mydata/binlogs
# chown -R mysql.mysql /mydata/binlogs/
# vim /etc/mysql/my.cnf
server-id       = 1
log-bin=/mydata/binlogs/master-bin

Slave配置:
# mkdir -pv /mydata/relaylogs
# chown -R mysql.mysql /mydata/relaylogs
# vim /etc/mysql/my.cnf
server-id       = 2
relay-log=/mydata/relaylogs/relay-bin



(8)在Master主机上创建拥有权限的用户
1
2
MariaDB [(none)]> GRANT REPLICATION SLAVE,REPLICATION CLIENT ON *.* TO 'repluser'@'172.16.%.%' IDENTIFIED BY 'replpass';
MariaDB [(none)]> FLUSH PRIVILEGES;



(9)连接Master服务器
1
2
MariaDB [(none)]> CHANGE MASTER TO MASTER_HOST='172.16.100.7',MASTER_USER='repluser',MASTER_PASSWORD='replpass';
MariaDB [(none)]> START SLAVE;



(10)创建远程连接用户
1
2
MariaDB [(none)]> GRANT ALL ON *.* TO 'admin'@'172.16.%.%' IDENTIFIED BY 'admin';
MariaDB [(none)]> FLUSH PRIVILEGES;



(11)管理功能测试
1
2
3
4
5
6
7
8
9
--代理服务器上操作
# mysql -uadmin -padmin -h172.16.100.9 --port=4041
mysql> SELECT * FROM backends;
+-------------+-------------------+---------+------+------+-------------------+
| backend_ndx | address           | state   | type | uuid | connected_clients |
+-------------+-------------------+---------+------+------+-------------------+
|           1 | 172.16.100.7:3306 | unknown | rw   | NULL |                 0 |
|           2 | 172.16.100.8:3306 | unknown | ro   | NULL |                 0 |
+-------------+-------------------+---------+------+------+-------------------+



(12)通过代理服务器连接服务器及读写测试
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
注意:
实验环境中  
172.16.100.7 为主服务器           
172.16.100.8 为从服务器
172.16.100.9 为代理服务器
--通过代理服务器连接服务器
#  mysql -h172.16.100.9 -uadmin -padmin
mysql> CREATE DATABASE samleedb;

--在主服务器和从服务器上使用下面命令进行监控
--Master进行写入操作的时候状态
# tcpdump -i any -nn -XX -A -p port 3306 and src 172.16.100.9
tcpdump: verbose output suppressed, use -v or -vv for full protocol decode
listening on any, link-type LINUX_SLL (Linux cooked), capture size 65535 bytes
17:05:54.617412 IP 172.16.100.9.40783 > 172.16.100.7.3306: Flags [P.], seq 2523263157:2523263186, ack 2431684210, win 457, options [nop,nop,TS val 12587304 ecr 11832810], length 29
    0x0000:  0000 0001 0006 000c 29d4 3452 0000 0800  ........).4R....
    0x0010:  4508 0051 6cf2 4000 4006 ad7b ac10 6409  E..Ql.@.@..{..d.
    0x0020:  ac10 6407 9f4f 0cea 9665 f0b5 90f0 8e72  ..d..O...e.....r
    0x0030:  8018 01c9 88ae 0000 0101 080a 00c0 1128  ...............(
    0x0040:  00b4 8dea 1900 0000 0343 5245 4154 4520  .........CREATE.
    0x0050:  4441 5441 4241 5345 2073 616d 6c65 6564  DATABASE.samleed
    0x0060:  62                                           b

--在代理服务器管理:
mysql> SELECT * FROM backends;
+-------------+-------------------+---------+------+------+-------------------+
| backend_ndx | address           | state   | type | uuid | connected_clients |
+-------------+-------------------+---------+------+------+-------------------+
|           1 | 172.16.100.7:3306 | up      | rw   | NULL |                 0 |
|           2 | 172.16.100.8:3306 | unknown | ro   | NULL |                 0 |
+-------------+-------------------+---------+------+------+-------------------+



(13)使用循环脚本验证请求发往的方向
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
向mysql-proxy执行读请求
    # for i in {1..10}; do mysql -h172.16.100.9 -uadmin -padmin -e 'select * from hellodb.classes limit 1';done
在主服务器和从服务器上使用下面命令进行监控。
    # tcpdump -i any -nn -XX -A -p port 3306 and src 172.16.100.9
可以发现当读请求量增大时,两边主机都可以看见读报文被截获。

向mysql-proxy执行写请求
    MariaDB [hellodb]> source /tmp/hellodb.sql
只有在master端可以看到截获报文

通过上面测试后,可以看到两个服务器状态都是up
mysql> SELECT * FROM backends;
+-------------+-------------------+-------+------+------+-------------------+
| backend_ndx | address           | state | type | uuid | connected_clients |
+-------------+-------------------+-------+------+------+-------------------+
|           1 | 172.16.100.7:3306 | up    | rw   | NULL |                 0 |
|           2 | 172.16.100.8:3306 | up    | ro   | NULL |                 0 |
+-------------+-------------------+-------+------+------+-------------------+




以上通过mysql-proxy实现读写分离全部过程。



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-235873-1-1.html 上篇帖子: ERROR 2003 (HY000): Can't connect to MySQL server 下篇帖子: windows安装mysql 数据库
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表