|
什么是 Amoba ?
Amoeba(变形虫)项目,该开源框架于2008年 开始发布一款 Amoeba for Mysql软件。这个软件致力于MySQL的分布式数据库前端代理层,它主要在应用层访问MySQL的 时候充当SQL路由功能,专注于分布式数据库代理层(Database Proxy)开发。座落与 Client、DB Server(s)之间,对客户端透明。具有负载均衡、高可用性、SQL 过滤、读写分离、可路由相关的到目标数据库、可并发请求多台数据库合并结果。 通过Amoeba你能够完成多数据源的高可用、负载均衡、数据切片的功能,目前Amoeba已在很多 企业的生产线上面使用。
Amoeba在分布式数据库领域将致力解决数据切分,应付客户端“集中式”处理分布式数据。这里集中式是一个相对概念,客户端不需要知道某种数据的物理存储地。避免这种逻辑出现在业务端, 大大简化了客户端操作分布式数据的复杂程度。
分布式数据库系统的优点:
1、降低费用。分布式数据库在地理上可以式分布的。其系统的结构符合这种分布的要求。允许用户在自己的本地录用、查询、维护等操作,实行局部控制,降低通信代价,避免集中式需要更高要求 的硬件设备。而且分布式数据库在单台机器上面数据量较少,其响应速度明显提升。
2、提高系统整体可用性。避免了因为单台数据库的故障而造成全部瘫痪的后果。
3、易于扩展处理能力和系统规模。分布式数据库系统的结构可以很容易地扩展系统,在分布式数据库中增加一个新的节点,不影响现有系统的正常运行。这种方式比扩大集中式系统要灵活经济。在集中式系统中扩大系统和系统升级,由于有硬件不兼容和软件改变困难等缺点,升级的代价常常是昂贵和不可行的。
Amoeba for mysql
Amoeba for mysql 对客户端程序来说是什么呢? 我们就当它是mysql吧,它是一个虚拟的mysql,对外提供mysql协议。客户端连接amoeba就象连接mysql一样。在amoeba内部需要配置相关的认证属性。
Amoeba for MySQL 与MySQL Proxy 比较
在MySQL proxy 6.0版本 上面如果想要读写分离并且 读集群、写集群 机器比较多情况下,用mysql proxy 需要相当大的工作量,目前mysql proxy没有现成的 lua脚本。mysql proxy根本没有配置文件, lua脚本就是它的全部,当然lua是相当方便的。那么同样这种东西需要编写大量的脚本才能完成一 个复杂的配置。而Amoeba for Mysql只需要进行相关的配置就可以满足需求。
Amoeba 不能做什么?
1、目前还不支持事务
2、暂时不支持存储过程(近期会支持)
3、不适合从amoeba导数据的场景或者对大数据量查询的query并不合适(比如一次请求返回10w以上甚至更多数据的场合)
4、暂时不支持分库分表,amoeba目前只做到分数据库实例,每个被切分的节点需要保持库表结构一致
Amoeba 3.0版本区别
1、采用更稳定的NIO框架
2、取消了很多不必要的同步锁,能够更好的利用高并发特性
3、代码结构更加合理,重构以后很多可重用的东西将提取出来作为公用类库,未来升级方便
4、配置有所改动(不兼容),由于重构,class所在的包名字将有所有变化,但是基本维持原来的配置结构不变,如果熟悉2.X,那么3.0上手非常容易
5、启动脚本有变化,3.x将 bin/launcher 作为启动脚本(启动以后直接可作为后台进程,不需要增加nohup等命令), bin/shutdown作为关闭脚本
6、解决了last_insert_id问题
Amoeba 安装
1、Amoeba 配置环境
Master 192.168.200.140 centos 6.8 mysql-5.5.53
Slave 192.168.200.180 centos 6.8 mysql-5.5.53
Amoeba 192.168.200.210 centos 6.8
# Amoeba 192.168.200.210(可以使用master 代替)
服务器安装软件版本
Mysq 5.5.53
Amoeba 3.05 RC
JDK 1.7.79
2、Mysql 主从复制安装这里就不描述了;详见mysql 主从复制简易配置指南
3、配置jdk 环境
由于Amoeba框架是基于Java SE1.5开发的,所以它需要在JDK 的环境下运行,
检查amoeba 服务器的 java 环境
[root@bogon ~]# rpm -qa java #查看是否安装java
[root@bogon ~]# java -version #如果已经安装java,查看java 版本,必须在1.5 以上
[root@bogon ~]# echo $JAVA_HOME 查看是否安装配置了JDK
如果你的机器上没有安装JDK环境,需要安装java
wget http://download.oracle.com/otn-pub/java/jdk/7u79-b15/jdk-7u79-linux-x64.tar.gz 解压JDK
tar -zvxf jdk-7u79-linux-x64.tar.gz
mv jdk1.7.0_79/ /usr/local/jdk1.7/
编辑环境变量文件
vim /etc/profile
#
文件最后部分加入
export JAVA_HOME=/usr/local/jdk1.7 #jdk 安装目录
export PATH=$JAVA_HOME/bin:$PATH #java 家目录的路径
export PATH=$PATH:$HOME/bin:/usr/local/amoeba/bin #amoeba 的安装目录
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar #java相应的工具目录
source /etc/profile
jdk 的官方下载站点。
4、Amoeba 安装
在Amoeba在SourceForge的主页下载Amoeba,。
[root@bogon ~]# wget https://sourceforge.net/settings/mirror_choices?projectname=amoeba&filename=Amoeba%20for%20mysql/3.x/amoeba-mysql-3.0.5-RC-distribution.zip 解压 amoeba
[root@bogon ~]# unzip amoeba-mysql-3.0.5-RC-distribution.zip -d /application/amoeba 启动Amoeba
[root@bogon ~]# /application/amoeba/launcher 关闭Amoeba
[root@bogon ~]# /application/amoeba/shutdown 启动时会出现如下错误:
The stack size specified is too small, Specify at least 228k Error: Could not create the Java Virtual Machine.
Error: A fatal exception has occurred. Program will exit.
从错误文字上看,应该是由于stack size太小,导致JVM启动失败,要
如何修改呢?
其实Amoeba已经考虑到这个问题,并将JVM参数配置写在属性文件里。现在,让我们通过该属性文件修改JVM参数。
修改jvm.properties文件JVM_OPTIONS参数。
=============================================================
解决方法
vi /$AMOEBA_HOME/jvm.properties 更改成
JVM_OPTIONS="-server -Xms1024m -Xmx1024m -Xss256k -XX:PermSize=16m -XX:MaxPermSize=96m" ===============================================================
Amoeba 3.0 版本以下解决办法:
打开bin目录下 的amoeba启动文件,修改58行的Xss参数:
DEFAULT_OPTS=”-server -Xms1024m -Xmx1024m -Xss128k” 修改为:
DEFAULT_OPTS=”-server -Xms1024m -Xmx1024m -Xss256k” ===============================================================
5、配置Amoeba
Amoeba有主要的配置文件
$AMOEBA_HOME/conf/dbServers.xml中配置主机信息,如主机ip,端口,amoeba 连接的用户名与密码等
$AMOEBA_HOME/conf/rule.xml中配置与切分规则相关的信息
$AMOEBA_HOME/conf/functionMap.xml描述了SQL函数名和函数处理的关系
$AMOEBA_HOME/conf/rule.xml 配置自己定义的函数
$AMOEBA_HOME/conf/ruleFunctionMap.xml中定义自定义函数名与函数处理的关系。
$AMOEBA_HOME/conf/access_list.conf中配置访问控制
$AMOEBA_HOME/conf/log4j.xml 配置输出日志级别和方式
通过更改amoeba.xml和dbServer.xml 配置文件实现mysql主从读写分离,配置如下:
amoeba.xml 配置如下:
8066 #proxy server 绑定的端口号
192.168.200.210 #proxy server 绑定的ip地址
128
64
root #通过 proxy server 访问MySQL的用户名
123 #通过 proxy server 访问MySQL的密码
${amoeba.home}/conf/access_list.conf
128
500
utf8
60
com.meidusa.toolkit.net.AuthingableConnectionManager
${amoeba.home}/conf/dbServers.xml
${amoeba.home}/conf/rule.xml
${amoeba.home}/conf/ruleFunctionMap.xml
${amoeba.home}/conf/functionMap.xml
1500
multiPool
true
dbServer.xml 配置如下:
${defaultManager}
64
128
3306
test
amoeba
think
500
500
1
600000
600000
true
true
true
192.168.200.140
192.168.200.180
1
server1,server2
[root@bogon ~]# /application/amoeba/bin/launcher & //启动amoeba服务#检查启动状态
[root@bogon ~]# ps -aux|grep amoeba
Warning: bad syntax, perhaps a bogus '-'? See /usr/share/doc/procps-3.2.8/FAQ
root 3915 0.0 0.1 106072 1392 pts/6 S+ 03:22 0:00 /bin/bash /application/amoeba/bin/launcher
root 3920 1.2 8.3 1883360 83648 pts/6 Sl+ 03:22 0:03 /usr/local/jdk1.7/bin/java -server -Xms256m -Xmx1024m -Xss256k -XX:PermSize=16m -XX:MaxPermSize=96m -Dproject.home=/application/amoeba -Damoeba.home=/application/amoeba -Dproject.name=Amoeba-MySQL -Dproject.output=/application/amoeba/logs -Dignore.signals=1,2 -Dclassworlds.conf=/application/amoeba/bin/launcher.classpath -classpath /application/amoeba/lib/plexus-classworlds-2.4.2-HEXNOVA.jar org.codehaus.classworlds.Launcher
root 3921 0.0 0.0 100952 656 pts/6 S+ 03:22 0:00 tail -f /application/amoeba/logs/console.log
[root@bogon ~]# netstat -lntpu|grep 8066
tcp 0 0 ::ffff:192.168.200.210:8066 :::* LISTEN 3920/java
看到进程以及端口说明amoeba服务启动正常
6、测试mysql的读写分离
测试之前先要保证amoeba-server有访问两个主从服务器test库的权限,在主从mysql上都执行:
mysql> grant all on test.* to amoeba@'192.168.200.%' identified by 'think';
mysql> flush privileges;
登录amoeba服务器使用如下命令(用户名密码和上面配置的要一致):
mysql -uroot -p123 -h192.168.200.210 -P8066 如果可以登陆并且没有任何错误就说明是OK的。登录上去后,为了测试读和写必须先把mysql的主从复制停掉,才能更清楚地看出读写的服务器是哪台,在从上使用stop slave;登录到amoeba-mysql上,使用命令mysql -uroot -p123-h192.168.200.210 -P8066,然后执行写和读操作,查看写的是哪台服务器,读的是哪台服务器,实验结果显示:写只在主上进行,读在主和从都进行,比率是1:1
在没有停止同步之前先在master服务器上创建一个表
mysql> create table amoeba (id int(10) ,name varchar(10)); 然后在slave服务器上停止数据同步
mysql> stop slave; 在主从上各插入一条不同数据(供测试读的时候用):
在master上插入:
mysql> insert into sxit values('1','amoeba1'); 在slave上插入:
mysql> insert into sxit values('2','amoeba2'); 登陆到amoeba服务器,进行读写分离的测试:
[root@bogon ~]# mysql -u root -p123 -h192.168.200.210 -P8066
mysql> use test;
mysql> select * from amoeba; #第一次执行select是在master服务器上查询的
+------+----------+
| id | name |
+------+----------+
| 1 | amoeba1 |
+------+----------+
1 rows in set (0.00 sec)
mysql> select * from amoeba; #第二次执行select是在slave服务器上查询的
+------+----------+
| id | name |
+------+----------+
| 2 | amoeba2 |
+------+----------+
1 rows in set (0.00 sec)
mysql> insert into amoeba values('3','amoeba3'); #插入一条数据,然后在select
Query OK, 1 row affected (0.05 sec)
mysql> select * from amoeba; #可以看到上面新插入的语句在master上了
+------+----------+
| id | name |
+------+----------+
| 1 | amoeba1 |
| 3 | amoeba3 |
+------+----------+
2 rows in set (0.00 sec)
mysql> select * from sxit; #slave服务器上是没有这条新的语句的,
+------+------+
| id | name |
+------+------+
| 2 | lisi |
+------+------+
1 row in set (0.00 sec)
参考文档:http://docs.hexnova.com/amoeba/rw-splitting.html
|
|
|