设为首页 收藏本站
查看: 451|回复: 0

[经验分享] MariaDB10.0实例部署和多源复制配置

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2015-3-24 08:49:31 | 显示全部楼层 |阅读模式
一、部署MariaDB10.0.171MariaDB下载和简单说明
当前MariaDB支持多源复制的版本为10.0的版本,最新稳定版本为10.0.17,下载连接为:http://mirrors.opencas.cn/mariadb/mariadb-10.0.17/source/mariadb-10.0.17.tar.gz。MariaDB和PerconaDB在5.5的新版中引进来线程池和关闭NUMA的概念,对数据库性能提高不少,而MySQL的版本在5.5.23(貌似是)以上的版本中也有这个概念,但是是属于企业版的功能,开源版本中没有这个功能;MariaDB10的版本中多了一个新功能就是多源复制,对于一些特殊的场景比较实用:如sharding过的表做数据汇总等,一般对汇总统计比较有用。
注:新的版本固然有很多吸引人的地方,但是其中的坑还没有挖完,有问题的话不易查找材料,不易于解决,所以不建议生产环境使用最新的版本。目前MySQL、PerconaDB和MariaDB主流版本是5.5,如果非特殊需要,5.5的足够用,抛开线程池来说,5.6的版本在整体的性能上未必比5.5的好。
2MariaDB的安装部署
MariaDB和MySQL、Percona的基本上完全一样,5.5以后的版本采用cmake的方式编译安装:
#tar –zxfmariadb-10.0.17.tar.gz
#cdmariadb-10.0.17
#cmake .-DCMAKE_INSTALL_PREFIX=/data/percona/ -DMYSQL_DATADIR=/data/percona/data-DSYSCONFDIR=/data/percona/etc -DWITH_INNOBASE_STORAGE_ENGINE=1-DWITH_PERFSCHEMA_STORAGE_ENGINE=1 -DDEFAULT_CHARSET=utf8-DDEFAULT_COLLATION=utf8_general_ci-DMYSQL_UNIX_ADDR=/data/percona/tmp/mysql.sock -DENABLED_LOCAL_INFILE=ON-DENABLED_PROFILING=ON -DWITH_DEBUG=0 -DMYSQL_TCP_PORT=3306
#make&& make install
3MariaDB的配置文件
这个配置文件适用于PerconaDB,去掉线程池和NAMA的参数,同样适用于MySQL:
[client]
port            = 3306
socket          = /data/mariadb/tmp/mysql.sock
default-character-set= utf8

[mysqld]
port         = 3306
bind-address= 0.0.0.0
lower_case_table_names  = 1
basedir  = /data/mariadb
datadir  = /data/mariadb/data
tmpdir  = /data/mariadb/tmp
socket  = /data/mariadb/tmp/mysql.sock
#######################################
log-output              = FILE
log-error               = /data/mariadb/log/error.log
#general_log
general_log_file        = /data/mariadb/log/mysql.log
pid-file                = /data/mariadb/data/mysql.pid
slow-query-log
slow_query_log_file     = /data/mariadb/log/slow.log
tmpdir                  = /data/mariadb/tmp/
long_query_time         = 0.1
#max_statement_time    = 1000 #自动杀死超过1s的慢sql,PerconaDB5.6支持,不建议使用,如使用的和业务方沟通好,建议在特殊的情况动态配置使用,默认是0,不限制。
sync_binlog             = 1

skip-external-locking
skip-name-resolve
default-storage-engine= INNODB
character-set-server= utf8
wait_timeout= 28400
back_log  =  1024

#########################
thread_concurrency      = 16
thread_cache_size       = 512
table_open_cache        = 16384
table_definition_cache  = 16384
sort_buffer_size        = 2M
join_buffer_size        = 2M
read_buffer_size        = 4M
read_rnd_buffer_size    = 4M
key_buffer_size         = 64M
myisam_sort_buffer_size= 64M
tmp_table_size          = 256M
max_heap_table_size     = 256M
open_files_limit        = 65535

#####Network ######################
max_allowed_packet      = 16M
interactive_timeout     = 28400
wait_timeout            = 28400
max-connections         = 1000
max_user_connections    = 0
max_connect_errors      = 100

######Repl #####################
server-id               = 1
report-host             = 172.16.183.56
log-bin                 = mysql-bin
binlog_format           = mixed
expire_logs_days        = 7
relay-log               = relay-log
#replicate-wild-do-table= zabbix.%
#replicate-wild-do-table= zabbix_server.%
replicate_wild_ignore_table=mysql.%
replicate_wild_ignore_table=test.%
log_slave_updates
skip-slave-start
#slave-net-timeout                    = 10
#rpl_semi_sync_master_enabled         = 1
#rpl_semi_sync_master_wait_no_slave   = 1
#rpl_semi_sync_master_timeout         = 1000
#rpl_semi_sync_slave_enabled          = 1
relay_log_recovery                   = 1

#####  Innodb ###########
innodb_data_home_dir            = /data/mariadb/data
innodb_data_file_path           = ibdata1:2G;ibdata2:2G:autoextend
innodb_autoextend_increment     = 500
innodb_log_group_home_dir       = /data/mariadb/data
innodb_buffer_pool_size         = 8G
innodb_buffer_pool_dump_at_shutdown= 1
innodb_buffer_pool_load_at_startup= 1
innodb_buffer_pool_instances    = 8
innodb_additional_mem_pool_size= 128M
innodb_log_files_in_group       = 3
innodb_log_file_size            = 512M
innodb_log_buffer_size          = 8M
innodb_flush_log_at_trx_commit  = 1
innodb_lock_wait_timeout        = 120
innodb_flush_method             = O_DIRECT
innodb_max_dirty_pages_pct      = 75
innodb_io_capacity              = 1000
innodb_thread_concurrency       = 0
innodb_thread_sleep_delay       = 500
innodb_concurrency_tickets      = 1000
innodb_open_files               = 65535
innodb_file_per_table           = 1
#########线程池,在高并发高负载情况下表现出出色的数据库性能  ##
thread_handling                 = pool-of-threads

######NUMA #########################
innodb_buffer_pool_populate     = 1

##################################
[mysqldump]
quick
max_allowed_packet= 16M

[mysql]
no-auto-rehash
default-character-set=utf8

[myisamchk]
key_buffer_size= 256M
sort_buffer_size= 256M
read_buffer= 2M
write_buffer= 2M

[mysqld_safe]
######CLOSED NUMA ###########
flush_caches
numa_interleave

[mysqlhotcopy]
interactive_timeout     = 28400
4、数据库初始化和启动
数据库初始化和启动脚本如下:
#/data/mariadb/scripts/mysql_install_db--basedir=/data/mariadb --datadir=/data/mariadb/data --defaults-file=/data/mariadb/etc/my.cnf--user=mysql
#/data/mariadb/bin/mysqld_safe--defaults-file=/data/mariadb/etc/my.cnf --user=mysql &
#echo “/data/mariadb/bin/mysqld_safe--defaults-file=/data/mariadb/etc/my.cnf --user=mysql &”>>/etc/rc.local  #加入到系统启动项中
二、MariaDB多源复制相关配置1、初始化数据库用户
初始化多源从库的用户,建议删除初始所有用户,建立4个用户:DBA root账户,备份用户,监控用户,主从同步用户。
创建用户的相关权限和命令如下:
#创建用户
GRANT ALLPRIVILEGES ON *.* TO 'root'@'localhost' IDENTIFIED BY IDENTIFIED BY '123456'WITH GRANT OPTION;
GRANTREPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'replicater'@'192.168.2.100'IDENTIFIED BY '123456';
GRANTSELECT, RELOAD, SHOW DATABASES, SUPER, LOCK TABLES, REPLICATION CLIENT, SHOWVIEW, EVENT ON *.* TO 'backup'@'localhost' IDENTIFIED BY '123456';
GRANTSELECT, PROCESS, SUPER, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO'monitor'@'127.0.0.1' IDENTIFIED BY '123456';
#删除用户建议使用dropuser xxxx@xxxxx;这样删除比较彻底。
作为DBA,线上的任何写操作最好做好备份,给自己留个后路
2、备份多个主库的数据库
MariaDB的多源复制,要求各个同步主库中的数据库名字各不相同,备份的话只备份需要同步的数据库即可,不需要同步的数据库可以在多源的从库中使用参数过滤掉,默认不会同步mysql、information_schema、performance_schema。
备份命令如下:
/data/mariadb/bin/mysqldump--default-character-set=utf8 --hex-blob -R --log-error=/var/log/backup-log--single-transaction --master-data=2 -uxxxx -pxxxx –B db_name > db_name_20150320.sql &
#放入后台备份
3、导入备份数据
分别导入各个主库的备份数据导多源的从库中,命令如下:
/data/mariadb/bin/mysql–uxxxx –pxxxxx db_name < db_name_20150320.sql &
4、建立主从关系
这里重点在connection_name,也就是在以前的语法上增加了connection_name,如果没加connection_name,那么默认的就是空。connection_name为标识,主要是方便用于管理单个主从关系。建立主从关系的命令如下:
Mysql>changemaster 'percona' to master_host='192.168.2.100',MASTER_PORT=3307,master_user='repl', master_password='xxxxxxx',master_log_file='mysql-bin.000019', master_log_pos=120;
其中的percona为connection_name。每个源的同步一个connection_name,分别执行上述sql命令。
启动主从同步的命令为:
Mysql>START SLAVE 'percona';
也可以在建立全部的同步关系后一起启动:
Mysql>START ALL SLAVES;
停止单个同步的命令:
Mysql>STOP SLAVE 'percona';
停止全部的同步的命令为:
Mysql>STOP ALL SLAVES;
当同步建立并正常运行时,会产生relay-log,relay-log的名字为:relay-log-percona.000001,会自动的加上connection_name。
可以使用show all slaves status来查看所有的同步状态,状态信息如下:
MariaDB[(none)]> show all slaves status\G
***************************1. row ***************************
              Connection_name: percona
              Slave_SQL_State: Slave has readall relay log; waiting for the slave I/O thread to update it
               Slave_IO_State: Waiting formaster to send event
                  Master_Host: 192.168.2.200
                  Master_User: repl
                  Master_Port: 3307
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000021
          Read_Master_Log_Pos: 450752689
               Relay_Log_File:relay-log-percona.000011
                Relay_Log_Pos: 135537605
        Relay_Master_Log_File: mysql-bin.000021
             Slave_IO_Running: Yes
           Slave_SQL_Running: Yes
              Replicate_Do_DB:
          Replicate_Ignore_DB:
           Replicate_Do_Table:
       Replicate_Ignore_Table:
      Replicate_Wild_Do_Table:
  Replicate_Wild_Ignore_Table: mysql.%,test.%
                   Last_Errno: 0
                   Last_Error:
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 450752689
              Relay_Log_Space: 135537904
。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。
             Master_Server_Id: 111156
              Master_SSL_Crl:
           Master_SSL_Crlpath:
                   Using_Gtid: No
                  Gtid_IO_Pos:
         Retried_transactions: 0
           Max_relay_log_size: 1073741824
         Executed_log_entries: 106216
    Slave_received_heartbeats: 12
       Slave_heartbeat_period: 1800.000
               Gtid_Slave_Pos:
***************************2. row ***************************
              Connection_name: percona
              Slave_SQL_State: Slave has readall relay log; waiting for the slave I/O thread to update it
               Slave_IO_State: Waiting formaster to send event
                  Master_Host: 192.168.2.201
                  Master_User: repl
                  Master_Port: 3307
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000021
          Read_Master_Log_Pos: 450752689
               Relay_Log_File:relay-log-percona.000011
                Relay_Log_Pos: 135537605
        Relay_Master_Log_File: mysql-bin.000021
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
              Replicate_Do_DB:
          Replicate_Ignore_DB:
           Replicate_Do_Table:
       Replicate_Ignore_Table:
      Replicate_Wild_Do_Table:
  Replicate_Wild_Ignore_Table: mysql.%,test.%
                   Last_Errno: 0
                   Last_Error:
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 450752689
              Relay_Log_Space: 135537904
。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。
             Master_Server_Id: 111156
               Master_SSL_Crl:
           Master_SSL_Crlpath:
                   Using_Gtid: No
                  Gtid_IO_Pos:
         Retried_transactions: 0
           Max_relay_log_size: 1073741824
         Executed_log_entries: 106216
    Slave_received_heartbeats: 12
       Slave_heartbeat_period: 1800.000
               Gtid_Slave_Pos:
三、MariaDB多源复制的管理1、多源复制的管理命令
多源的复制的管理和一般的主从复制管理基本一样,常用的命令如下,具体用途一看就明白,不在赘述:
CHANGEMASTER 'connection_name';
FLUSHRELAY LOGS 'connection_name';
RESETSLAVE 'connection_name';
RESETSLAVE 'connection_name' ALL;
SHOWRELAYLOG 'connection_name' EVENTS;
SHOWSLAVE 'connection_name' STATUS;
SHOW ALLSLAVES STATUS;
STARTSLAVE 'connection_name';
START ALLSLAVES;
STOPSLAVE 'connection_name';
STOP ALLSLAVES;
2、多源复制新添加的状态和变量
Show global status中的新变量:
Com_start_all_slaves执行 START ALL SLAVES 命令的次数。
Com_start_slave  执行 START SLAVE 命令的次数。取代了Com_slave_start.
Com_stop_slave  执行 STOP SLAVE 命令的次数。取代了Com_slave_stop.
Com_stop_all_slaves  执行 STOP ALL SLAVES 命令的次数
SHOW ALL SLAVES STATUS 有以下的新的列:
Connection_name  master的连接名。 这是第一个变量
Slave_SQL_State  SQL 线程的状态
Retried_transactions这个连接重试事务的次数。
Max_relay_log_size  这个连接的最大的relay日志的大小。
Executed_log_entriesslave已经指向了多少个日志条目。
Slave_received_heartbeats从master获得了多少个心跳。
Slave_heartbeat_period多久从master请求一个心跳包(以秒计算)。
3、多源复制中增加的新文件
被多源复制使用的新文件的基本准则是:他们有在扩展名前被冠以连接名前缀的和原来的中继日志文件类似的名字。主要的例外是,保存所有连接名字的文件master-info-file 被简单的命名为带有 multi- 前缀的 master-info-file 。当你使用多源复制的时候,下面的文件将被创建:
multi-master-info-file  master-info-file (一般是master.info) 带上了 multi- 前缀。这里面是所有使用中的master连接信息。
master-info-file-connection_name.extension包含了当前master应用到slave的位置。扩展名一般是 .info
relay-log-connection_name.xxxxxrelay-log 有了一个 connection_name 的前缀. xxxxx 是 relay log 的编号。这里面保存的是从master读取的复制数据。
relay-log-index-connection_name.extension包含可用的 relay-log-connection_name.xxxxx 文件的名字。扩展名一般是 .index
relay-log-info-file-connection_name.extension包含relay日志中的当前master的位置。扩展名一般是 .info
当创建这些文件的时候,连接名被转化成小写的,并且其中所有的特殊字符都被转化了,就和mysql表名中的特殊字符被转化一样。这样做是为了方便文件名可以在不同系统上移植。
提示:
你只需要指定log-base-name ,所有的其他变量将会使用这个作为前缀,而不用为mysqld指定relay-log, relay-log-index,general-log, slow-log, log-bin, log-bin-index这些的名字。
其他事项
所有slave的错误信息都会加上connection name,然后被写入到error log,ER_MASTER_INFO和WARN_NO_MASTER_INFO现在会加上connection_name,这里没有冲突的解决方案,我们假设所有的master之间没有冲突。所有执行的命令都被存储在正常的binary log里面。如果你server variable log_warnings>1,那么你就会收到一些multi-master-info文件更新的信息。showslave status;看见的第一行是增加的,叫做connection_name。reset slave命令现在会删除所有的relay-log文件。
4、多源复制的典型案例和使用限制
典型的使用案例:
将多个master的数据整合到一个slave上,方面查询分析。
将多个mariadb/mysql服务器的数据整合到一个slave,方便备份。
受限的事项:
一个slave最多可以有64个master;
每个活跃的连接会创建两个线程(和mariadb复制相同);
你需要确认所有的master需要有不同的server-id;
max_relay_log_size在启动后修改是不能生效的;
innodb-recovery-update-relay-log值对默认的复制连接生效,这个参数是xtradb的特新用来存储relaylog的位置号。但是这个方案存在安全隐患,我们不推荐使用;
Slave_net_timeout对所有参数有效,我们不检查它是否小于Slave_heartbeat_period,因为对多主复制来说没有特别意义;
multi-source现在还不支持semisync。
5MariaDB多源复制跳过复制错误的处理
MariaDB多源复制其中的一个复制同步失败不会影响其他的复制,那么怎么处理其中的一个复制失败那?简单的处理就是跳过失败的报错。跳过报错信息和一般的复制还是有点区别的。如其中的一个复制名字为r1,想要r1同步正常,则需要忽略即跳过该错误。
MariaDB[r1]> stop slave 'r1';
Query OK,0 rows affected (0.12 sec)

MariaDB[r1]> set @@default_master_connection='r1'; #这里是重点:指定一个通道,然后用单通道的sql_slave_skip_counter
Query OK,0 rows affected (0.00 sec)

MariaDB[r1]> select @@default_master_connection;
+-----------------------------+
|@@default_master_connection |
+-----------------------------+
| r1                          |
+-----------------------------+
1 row inset (0.00 sec)

MariaDB[r1]> SET GLOBAL sql_slave_skip_counter =1;
Query OK,0 rows affected (0.00 sec)

MariaDB[r1]> start slave 'r1';
Query OK,0 rows affected (0.00 sec)

MariaDB[r1]> show slave 'r1' status\G;


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-49984-1-1.html 上篇帖子: C#实现mysq安装路径获取 下篇帖子: centos6.5 PHP启动脚本
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表