Redis Twemproxy集群

8767654r

Redis Rwemproxy集群部署



由于单台redis服务器的内存管理能力有限，使用过大内存redis服务器的性能急剧下降，且服务器发生故障将直接影响大面积业务。为了获取更好的缓存性能及扩展型，我们将需要搭建redis集群来满足需求。因redis 3.0 beta支持的集群功能不适合生产环境的使用，所以我们采用twitter正在使用的twemproxy来搭建redis缓存服务器集群，目前用户包括Pinterest、Tumblr、Twitter、Vine、Kiip、Wuaki.tv、Wanelo、Kontera、Wikimedia、Bright、56.com、Snapchat、Digg、Gawkermedia、3scale.net等。

Twemproxy是memcached和redis协议的代理服务器，并能有效减少大量连接对redis服务器的性能影响，它提供的主要特性如下:





yum install gcc tcl

[iyunv@COS2 src]# tar xvf redis-2.8.9.tar.gz
[iyunv@COS2 src]# cd redis-2.8.9
[iyunv@COS2 redis-2.8.9]#
…
Hint: To run 'make test' is a good idea ;)
make[1]: Leaving directory `/usr/local/src/redis-2.8.9/src'

[iyunv@COS2 redis-2.8.9]#
All tests passed without errors!

Cleanup: may take some time... OK
make[1]: Leaving directory `/usr/local/src/redis-2.8.9/src'
[iyunv@COS2 redis-2.8.9]#
[iyunv@COS2 redis-2.8.9]# ll /usr/local/bin/
[iyunv@COS2 bin]# ll
total 13908
-rwxr-xr-x. 1 root root 4170264 Apr 26 11:51 redis-benchmark
-rwxr-xr-x. 1 root root   22185 Apr 26 11:51 redis-check-aof
-rwxr-xr-x. 1 root root   45419 Apr 26 11:51 redis-check-dump
-rwxr-xr-x. 1 root root 4263471 Apr 26 11:51 redis-cli
-rwxr-xr-x. 1 root root 5726791 Apr 26 11:51 redis-server

[iyunv@COS2 redis-2.8.9]# cp redis.conf /etc/
[iyunv@COS2 redis-2.8.9]# vim /etc/red
redhat-release  redis.conf      
[iyunv@COS2 redis-2.8.9]# vim /etc/redis.conf

把里面的
daemonize no  修改成 daemonize yes
启动redis
[iyunv@COS2 redis-2.8.9]# redis-server /etc/redis.conf

后面的redis服务安装这个安装就好（注意测试没有任何参数设置）

下载twemproxy(nutcracker)的安装包

wget https://twemproxy.googlecode.com/files/nutcracker-0.3.0.tar.gz

解压安装
tar -zxvf nutcracker-0.3.0.tar.gz

cd nutcracker-0.3.0
./configure --prefix=/usr/local/nutcracker
make && make install

配置路径

新建配置文件

mkdir -p  /usr/local/nutcracker/conf/

例子：vim /usr/local/nutcracker/conf/nutcracker.yml

alpha:

  listen: 127.0.0.1:2121

  hash: fnv1a_64

  distribution: ketama

  auto_eject_hosts: true

  redis: true

  server_retry_timeout: 2000

  server_failure_limit: 1

  servers:

   - 127.0.0.1:6379:1

   - 192.168.6.17:6379:1

测试配置文件

[iyunv@COS1 nutcracker-0.3.0]# nutcracker -t /usr/local/nutcracker/conf/nutcracker.yml
nutcracker: configuration file 'conf/nutcracker.yml' syntax is ok

如果出现错误

1,4 启动twemproxy(nutcracker)

/usr/local/nutcracker/sbin/nutcracker –h

查看启动的参数


nutcracker -d -c  配置文件路径
nutcracker -d -c  /usr/local/nutcracker/sbin/conf/nutcracker.yml

redis-cli -p 2121



性能测试
这里使用redis自带的redis-benchmark进行简单的性能测试，测试结果如下:
Set测试：
通过twemproxy测试：
[iyunv@COS1 src]# redis-benchmark -h 10.23.22.240 -p 22121 -c 100 -t set -d 100 -l –q

SET: 38167.94 requests per second
直接对后端redis测试：
[iyunv@COS2 ~]# redis-benchmark -h 10.23.22.241 -p 6379 -c 100 -t set -d 100 -l –q

SET: 53191.49 requests per second
Get测试：
通过twemproxy测试：
[iyunv@COS1 src]# redis-benchmark -h 10.23.22.240 -p 22121 -c 100 -t get -d 100 -l -qGET: 37453.18 requests per second
直接对后端redis测试：
[iyunv@COS2 ~]# redis-benchmark -h 10.23.22.241 -p 6379 -c 100 -t get -d 100 -l -qGET: 62111.80 requests per second
查看键值分布：
[iyunv@COS2 ~]# redis-cli info|grep db0db0:keys=51483,expires=0,avg_ttl=0[iyunv@COS3 ~]# redis-cli info|grep db0db0:keys=48525,expires=0,avg_ttl=0
测试结果:以基本的set get命令通过twemproxy性能有所下降;通过twemproxy分布基本平均。测试数据以业务测试为准。