通过Gearman实现MySQL到Redis的数据同步（异步复制）

8516830

日志未经声明，均为AlloVince原创。版权采用『 知识共享署名-非商业性使用 2.5 许可协议』进行许可。




选择语言​▼　　对于变化频率非常快的数据来说，如果还选择传统的静态缓存方式（Memcached、File System等）展示数据，可能在缓存的存取上会有很大的开销，并不能很好的满足需要，而Redis这样基于内存的NoSQL数据库，就非常适合担任实时数据的容器。
　　但是往往我们又有数据可靠性的需求，采用MySQL作为数据存储，不会因为内存问题而引起数据丢失，同时也可以利用关系数据库的特性实现很多功能。
　　所以就会很自然的想到是否可以采用MySQL作为数据存储引擎，Redis则作为Cache。而这种需求目前还没有看到有特别成熟的解决方案或工具，因此本文将尝试采用Gearman+PHP+MySQL UDF的组合异步实现MySQL到Redis的数据复制。

MySQL到Redis数据复制方案
　　无论MySQL还是Redis，自身都带有数据同步的机制，像比较常用的MySQL的Master/Slave模式，就是由Slave端分析Master的binlog来实现的，这样的数据复制其实还是一个异步过程，只不过当服务器都在同一内网时，异步的延迟几乎可以忽略。
　　那么理论上我们也可以用同样方式，分析MySQL的binlog文件并将数据插入Redis。但是这需要对binlog文件以及MySQL有非常深入的理解，同时由于binlog存在Statement/Row/Mixedlevel多种形式，分析binlog实现同步的工作量是非常大的。
　　因此这里选择了一种开发成本更加低廉的方式，借用已经比较成熟的MySQL UDF，将MySQL数据首先放入Gearman中，然后通过一个自己编写的PHP Gearman Worker，将数据同步到Redis。比分析binlog的方式增加了不少流程，但是实现成本更低，更容易操作。

Gearman的安装与使用
　　Gearman是一个支持分布式的任务分发框架。设计简洁，获得了非常广泛的支持。一个典型的Gearman应用包括以下这些部分：

• Gearman Job Server：Gearman核心程序，需要编译安装并以守护进程形式运行在后台
  
• Gearman Client：可以理解为任务的收件员，比如我要在后台执行一个发送邮件的任务，可以在程序中调用一个Gearman Client并传入邮件的信息，然后就可以将执行结果立即展示给用户，而任务本身会慢慢在后台运行。
  
• Gearman Worker：任务的真正执行者，一般需要自己编写具体逻辑并通过守护进程方式运行，Gearman Worker接收到Gearman Client传递的任务内容后，会按顺序处理。
  

　　以前曾经介绍过类似的后台任务处理项目Resque。两者的设计其实非常接近，简单可以类比为：

• Gearman Job Server：对应Resque的Redis部分
  
• Gearman Client：对应Resque的Queue操作
  
• Gearman Worker：对应Resque的Worker和Job
  

　　这里之所以选择Gearman而不是Resque是因为Gearman提供了比较好用的MySQL UDF，工作量更小。

安装Gearman及PHP Gearman扩展
　　以下均以Ubuntu12.04为例。

apt-get install gearman gearman-server libgearman-dev

　　检查Gearman的运行状况：

/etc/init.d/gearman-job-server status
* gearmand is running

　　说明Gearman已经安装成功。
　　PHP的Gearman扩展可以通过pecl直接安装

pecl install gearman
echo "extension=gearman.so" > /etc/php5/conf.d/gearman.ini
service php5-fpm restart

　　但是实测发现ubuntu默认安装的gearman版本过低，直接运行pecl install gearman会报错

　　configure: error: libgearman version 1.1.0 or later required

　　因此Gearman + PHP扩展建议通过编译方式安装，这里为了简单说明，选择安装旧版本扩展：

pecl install gearman-1.0.3

Gearman + PHP实例
　　为了更容易理解后文Gearman的运行流程，这里不妨从一个最简单的Gearman实例来说明，比如我们要进行一个文件处理的操作，首先编写一个Gearman Client并命名为client.php：