设为首页 收藏本站
查看: 2169|回复: 6

[经验分享] 通过keepalived实现LVS的高可用,实现WEB的高可用

[复制链接]

尚未签到

发表于 2013-5-16 08:39:17 | 显示全部楼层 |阅读模式

通过keepalived实现LVS的高可用,实现WEB的高可用

keepalived简介

        keepalived是一个类似于layer3, 4 & 5交换机制的软件,也就是我们平时说的第3层、第4层和第5层交换。Keepalived的作用是检测web服务器的状态,如果有一台web服务器死机,或工作出现故障,Keepalived将检测到,并将有故障的web服务器从系统中剔除,当web服务器工作正常后Keepalived自动将web服务器加入到服务器群中,这些工作全部自动完成,不需要人工干涉,需要人工做的只是修复故障的web服务器。

keepalived作用

    主要用作RealServer的健康状态检查以及LoadBalance主机和BackUP主机之间failover的实现。

    高可用web架构: LVS+keepalived+nginx+apache+php+eaccelerator(+nfs可选可不选)



实现LVS的高可用

两个HA节点:

204037163.jpg

(基本是相同的设置,做node1的演示)

关掉selinux



[Shell] 纯文本查看 复制代码
# setenforce 0
或者
# vim /etc/selinux/config
##修改
SELINUX=permissive

配置主机名,保持主机名一致



[Shell] 纯文本查看 复制代码
# hostname node1.doubao.com
# vim /etc/sysconfig/network
##修改如下:
HOSTNAME=node1.doubao.com #当然HA2上要改为node2
:wq #保存退出

主机名称解析:





[Shell] 纯文本查看 复制代码
# vim /etc/hosts
##添加如下内容
172.16.111.6node1.doubao.com node1
172.16.111.7node2.doubao.com node2

双机互信:



[Shell] 纯文本查看 复制代码
1
2
#ssh-keygen -t rsa -f ~/.ssh/id_rsa -P '' 生成密钥
#ssh-copy-id -i .ssh/id_rsa.pub root@node2 ##将公钥文件发送到HA2上边

时间同步:

[backcolor=white !important]
[backcolor=rgb(224, 224, 224) !important][size=1em]
[Shell] 纯文本查看 复制代码
1
# hwclock –s #由于笔者的实验环境特殊,暂用此方法,也可以使用ntpdate的方法进行更新



配置好yum

http://407711169.blog./6616996/1179601 ## 此处前边是一个配置yum的例子

安装配置HA的keepalived工具及负载均衡管理工具ipvsadm

下载好 keepalived-1.2.7-5.el5.i386.rpm (附件已经上传)

[backcolor=white !important]
[backcolor=rgb(224, 224, 224) !important][size=1em]
[Shell] 纯文本查看 复制代码
1
# yum -y --nogpgcheck localinstall keepalived-1.2.7-5.el5.i386.rpm




编辑keepalived的配置文件:

[backcolor=white !important]
[backcolor=rgb(224, 224, 224) !important][size=1em]1[size=1em]
[Shell] 纯文本查看 复制代码
[/size][/backcolor][/size][/backcolor][/align]
# vim /etc/ keepalived/ keepalived.conf
######这里是个修改过的,我贴出来了,大家可以直接使用
! Configuration File for keepalived
global_defs {            ##定义全局
notification_email {
root@localhost
}
notification_email_from root@localhost
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL
}
vrrp_instance VI_1 {        ##定义vrrp
state MASTER
interface eth0
virtual_router_id 51
priority 101
advert_int 1
authentication {
auth_typePASS
auth_pass password
}
virtual_ipaddress {
172.16.111.1
}
}
virtual_server 172.16.111.1 80 {   ##定义virtual_server
delay_loop 6
lb_algo rr
lb_kind DR
nat_mask 255.255.0.0
protocol TCP
real_server 172.16.111.16 80 {
weight 1
url {
path /
status_code 200
}
connect_timeout 2
nb_get_retry 3
delay_before_retry 1
}
real_server 172.16.111.16 80 {
weight 1
url {
path /
status_code 200
}
connect_timeout 2
nb_get_retry 3
delay_before_retry 1
}
}


然后复制到另外个虚拟机中,



[Shell] 纯文本查看 复制代码
##记得改state改为BACKUP
##将priority 改为100

yum装ipvsadm



[Shell] 纯文本查看 复制代码
# yum install ipvsadm -y
然后开启服务:
# service ipvsadm start
RS端的设置:

(同样两个在两个RS分别执行)



[Shell] 纯文本查看 复制代码
关掉selinux
# setenforce 0
或者
# vim /etc/selinux/config
##修改
SELINUX=permissive
时间同步。

[backcolor=white !important]
[backcolor=rgb(224, 224, 224) !important][size=1em]
[Shell] 纯文本查看 复制代码
1
# hwclock –s #由于笔者的实验环境特殊,暂用此方法,也可以使用ntpdate的方法进行更新



配置好yum

http://407711169.blog./6616996/1179601 ## 此处前边是一个配置yum的例子

安装httpd服务





[Shell] 纯文本查看 复制代码
# yum install httpd –y
# vim /var/www/html/index.html
###添加如下内容
1111111111111111#最标示RS1的作用,我们在RS2中添加22222
# service httpd start##开启服务
这个时候可以打开浏览器输入下172.16.111.16 和172.16.111.17来测试下界面

204949910.jpg

204950613.jpg




设置负载均衡集群

这里只需要在各个RS节点中运行下如下的脚本,就可以了。(当然如果不怕麻烦的同学可以手动添加,内容和脚本start中的内容一致)





[Shell] 纯文本查看 复制代码
# vim start.sh
##添加如下内容
#!/bin/bash
#
# Script to start LVS DR real server.
# description: LVS DR real server
#
./etc/rc.d/init.d/functions
VIP=172.16.111.1
host=`/bin/hostname`
case "$1" in
start)##手动添加只需要进行下边的操作
# Start LVS-DR real server on this machine.
/sbin/ifconfig lo down
/sbin/ifconfig lo up
echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore #定义接收到ARP请求时的响应级别
echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce #设置地址向外通告时的级别
echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
/sbin/ifconfig lo:0 $VIP broadcast $VIP netmask 255.255.255.255 up定义广播地址为自播模式
/sbin/route add -host $VIP dev lo:0##定义主机为172.16.111.1的地址使用lo:0为源地址##手动添加操作到此
;;
stop)
# Stop LVS-DR real server loopback device(s).
/sbin/ifconfig lo:0 down
echo 0 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 0 > /proc/sys/net/ipv4/conf/lo/arp_announce
echo 0 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 0 > /proc/sys/net/ipv4/conf/all/arp_announce
;;
status)
# Status of LVS-DR real server.
islothere=`/sbin/ifconfig lo:0 | grep $VIP`
isrothere=`netstat -rn | grep "lo:0" | grep $VIP`
if [ ! "$islothere" -o ! "isrothere" ];then
# Either the route or the lo:0 device
# not found.
echo "LVS-DR real server Stopped."
else
echo "LVS-DR real server Running."
fi
;;
*)
# Invalid entry.
echo "$0: Usage: $0 {start|status|stop}"
exit 1
;;
esac
:wq#保存退出
# chmod +x start.sh
# ./start.sh start #执行脚本
通过keepalived实现LVS的高可用

到HA的两个节点上分别开启keepalived服务



[Shell] 纯文本查看 复制代码
# service keepalived start
等到两个HA服务都开启时

可以使用 ip addr show 查看下其网卡状态

205745834.jpg

查看ipvsadm规则:



[Shell] 纯文本查看 复制代码
[iyunv@node1 keepalived]# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:PortForward Weight ActiveConn InActConn
TCP172.16.111.1:80 rr##轮询调度算法
-> 172.16.111.17:80Masq100
-> 172.16.111.16:80Route101
这个时候打开浏览器,输入172.16.111.1

205902260.jpg

刷新下浏览器

205919363.jpg

这样正好对照了rr轮询规则。这个实验到此为止,当然你可以进行一些别的测试,这里我们就不在进行。



实现WEB的高可用

做这个实验。上边用到的两个RS已经没有用处了。这里我们直接在上边实验过程中的两个HA上做修改。

先关掉keepalived服务



[Shell] 纯文本查看 复制代码
# service keepalived stop
安装httpd 服务
# yum install httpd -y
##添加测试页面
# vim /var/www/html/index.html
<h1>node1</h1># HA2为node2
##开始服务
# service httpd start
打开网页测试下两个页面

210035222.jpg

210036932.jpg


这个时候我们需要去配置keepalived的配置文件


主从节点的配置

配置keepalived配置文件


[backcolor=white !important]
[backcolor=rgb(224, 224, 224) !important][size=1em]1

[backcolor=white !important][size=1em]2

[backcolor=rgb(224, 224, 224) !important][size=1em]3

[backcolor=white !important][size=1em]4

[backcolor=rgb(224, 224, 224) !important][size=1em]5

[backcolor=white !important][size=1em]6

[backcolor=rgb(224, 224, 224) !important][size=1em]7

[backcolor=white !important][size=1em]8

[backcolor=rgb(224, 224, 224) !important][size=1em]9

[backcolor=white !important][size=1em]10

[backcolor=rgb(224, 224, 224) !important][size=1em]11

[backcolor=white !important][size=1em]12

[backcolor=rgb(224, 224, 224) !important][size=1em]13

[backcolor=white !important][size=1em]14

[backcolor=rgb(224, 224, 224) !important][size=1em]15

[backcolor=white !important][size=1em]16

[backcolor=rgb(224, 224, 224) !important][size=1em]17

[backcolor=white !important][size=1em]18

[backcolor=rgb(224, 224, 224) !important][size=1em]19

[backcolor=white !important][size=1em]20

[backcolor=rgb(224, 224, 224) !important][size=1em]21

[backcolor=white !important][size=1em]22

[backcolor=rgb(224, 224, 224) !important][size=1em]23

[backcolor=white !important][size=1em]24

[backcolor=rgb(224, 224, 224) !important][size=1em]25

[backcolor=white !important][size=1em]26

[backcolor=rgb(224, 224, 224) !important][size=1em]27

[backcolor=white !important][size=1em]28

[backcolor=rgb(224, 224, 224) !important][size=1em]29

[backcolor=white !important][size=1em]30

[backcolor=rgb(224, 224, 224) !important][size=1em]31

[backcolor=white !important][size=1em]32

[backcolor=rgb(224, 224, 224) !important][size=1em]33

[backcolor=white !important][size=1em]34

[backcolor=rgb(224, 224, 224) !important][size=1em]35

[backcolor=white !important][size=1em]36

[backcolor=rgb(224, 224, 224) !important][size=1em]37

[backcolor=white !important][size=1em]38

[backcolor=rgb(224, 224, 224) !important][size=1em]39

[backcolor=white !important][size=1em]40

[backcolor=rgb(224, 224, 224) !important][size=1em]41

[backcolor=white !important][size=1em]42

[backcolor=rgb(224, 224, 224) !important][size=1em]43

[backcolor=white !important][size=1em]44

[backcolor=rgb(224, 224, 224) !important][size=1em]45

[backcolor=white !important][size=1em]46

[backcolor=rgb(224, 224, 224) !important][size=1em]47

[backcolor=white !important][size=1em]48

[backcolor=rgb(224, 224, 224) !important][size=1em]49

[backcolor=white !important][size=1em]50

[backcolor=rgb(224, 224, 224) !important][size=1em]51

[backcolor=white !important][size=1em]52

[backcolor=rgb(224, 224, 224) !important][size=1em]53

[backcolor=white !important][size=1em]54

[backcolor=rgb(224, 224, 224) !important][size=1em]55

[backcolor=white !important][size=1em]56

[backcolor=rgb(224, 224, 224) !important][size=1em]57

[backcolor=white !important][size=1em]58

[backcolor=rgb(224, 224, 224) !important][size=1em]59

[backcolor=white !important][size=1em]60

[backcolor=rgb(224, 224, 224) !important][size=1em]61

[backcolor=white !important][size=1em]62

[backcolor=rgb(224, 224, 224) !important][size=1em]63

[backcolor=white !important][size=1em]64

[backcolor=rgb(224, 224, 224) !important][size=1em]65

[backcolor=white !important][size=1em]66

[backcolor=rgb(224, 224, 224) !important][size=1em]67

[backcolor=white !important][size=1em]68

[backcolor=rgb(224, 224, 224) !important][size=1em]69

[backcolor=white !important][size=1em]70

[size=1em][backcolor=rgb(224, 224, 224) !important][size=1em]
[Shell] 纯文本查看 复制代码
# cd /etc/keepalived/
# vim keepalived.conf
! Configuration File for keepalived
global_defs {
notification_email {
[email]linuxedu@foxmail.com[/email]
[email]mageedu@126.com[/email]
}
notification_email_from [email]kanotify@magedu.com[/email]
smtp_connect_timeout 3
smtp_server 127.0.0.1
router_id LVS_DEVEL
}
vrrp_script chk_httpd {
script "killall -0 httpd"
interval 2
# check every 2 seconds
weight -2
# if failed, decrease 2 of the priority
fall 2
# require 2 failures for failures
rise 1
# require 1 sucesses for ok
}
vrrp_script chk_schedown {
script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
interval 2
weight -2
}
vrrp_instance VI_1 {
interface eth0
# interface for inside_network, bound by vrrp
state MASTER
# Initial state, MASTER|BACKUP
# As soon as the other machine(s) come up,
# an election will be held and the machine
# with the highest "priority" will become MASTER.
# So the entry here doesn't matter a whole lot.
priority 101
# for electing MASTER, highest priority wins.
# to be MASTER, make 50 more than other machines.
virtual_router_id 51
# arbitary unique number 0..255
# used to differentiate multiple instances of vrrpd
# running on the same NIC (and hence same socket).
garp_master_delay 1
authentication {
auth_typePASS
auth_pass password
}
track_interface {
eth0
}
# optional, monitor these as well.
# go to FAULT state if any of these go down.
virtual_ipaddress {
172.16.111.1/16 dev eth0 label eth0:0
}
#addresses add|del on change to MASTER, to BACKUP.
#With the same entries on other machines,
#the opposite transition will be occuring.
#<IPADDR>/<MASK> brd <IPADDR> dev <STRING> scope <SCOPE> label <LABEL>
track_script {
chk_httpd
chk_schedown
}
notify_master "/etc/keepalived/notify.sh master"
notify_backup "/etc/keepalived/notify.sh backup"
notify_fault "/etc/keepalived/notify.sh fault"
}




然后将其复制到节点HA2中

[backcolor=white !important]
[Shell] 纯文本查看 复制代码
1
# scp keepalived.conf notify.sh node2:/etc/keepalived/


然后在HA2中对配置文件坐下进一步修改 2处:

[backcolor=white !important]

[backcolor=white !important][size=1em]
[Shell] 纯文本查看 复制代码
state MASTER##改为BUCKUP (从节点)
priority 101##优先级改为100



分别在两边开启服务开启服务。



[Shell] 纯文本查看 复制代码
# service keepalived start
这时候查看一下网卡信息
# ip addr show
可以看出来网卡172.16.111.1已经在网卡eth0:0上了

210339913.jpg

打开网页输入172.16.111.1查看

210357347.jpg

可以发现确实在节点HA1上

这个时候我们可以仿照HA1服务故障:(配置文件中可以留意在其文件中创建一个down文件可以模拟其服务故障)

210439899.jpg

210439294.jpg

然后打开网页测试下:

210457256.jpg

显然已经变成了HA2的http页面

大家可以继续做测试,删掉dwon文件


双主模型

继续在上边实验的基础上,

分别在两个配置文件后边加上如下内容

[backcolor=white !important]
[backcolor=rgb(224, 224, 224) !important][size=1em]1

[backcolor=white !important][size=1em]2

[backcolor=rgb(224, 224, 224) !important][size=1em]3

[backcolor=white !important][size=1em]4

[backcolor=rgb(224, 224, 224) !important][size=1em]5

[backcolor=white !important][size=1em]6

[backcolor=rgb(224, 224, 224) !important][size=1em]7

[backcolor=white !important][size=1em]8

[backcolor=rgb(224, 224, 224) !important][size=1em]9

[backcolor=white !important][size=1em]10

[backcolor=rgb(224, 224, 224) !important][size=1em]11

[backcolor=white !important][size=1em]12

[backcolor=rgb(224, 224, 224) !important][size=1em]13

[backcolor=white !important][size=1em]14

[backcolor=rgb(224, 224, 224) !important][size=1em]15

[backcolor=white !important][size=1em]16

[backcolor=rgb(224, 224, 224) !important][size=1em]17

[backcolor=white !important][size=1em]18

[backcolor=rgb(224, 224, 224) !important][size=1em]19

[backcolor=white !important][size=1em]20

[backcolor=rgb(224, 224, 224) !important][size=1em]21

[backcolor=white !important][size=1em]22

[backcolor=rgb(224, 224, 224) !important][size=1em]23

[backcolor=white !important][size=1em]24

[backcolor=rgb(224, 224, 224) !important][size=1em]25

[size=1em][backcolor=rgb(224, 224, 224) !important][size=1em]
[Shell] 纯文本查看 复制代码
#######HA1
vrrp_instance VI_2 {
interface eth0
state BACKUP# BACKUP for slave routers ##这个地方HA1做从
priority 100# 100 for BACKUP## 优先级低于HA2的此处
virtual_router_id 52
garp_master_delay 1
authentication {
auth_typePASS
auth_pass password
}
track_interface {
eth0
}
virtual_ipaddress {
172.16.111.2/16 dev eth0 label eth0:1#172.16.111.2
}
track_script {
chk_httpd
chk_schedown
}
notify_master "/etc/keepalived/notify.sh master eth0:1"
notify_backup "/etc/keepalived/notify.sh backup eth0:1"
notify_fault "/etc/keepalived/notify.sh fault eth0:1"
}




[backcolor=white !important]
[backcolor=rgb(224, 224, 224) !important][size=1em]
[Shell] 纯文本查看 复制代码
####################HA2
vrrp_instance VI_2 {
interface eth0
state MASTER# BACKUP for slave routers
priority 101# 100 for BACKUP
virtual_router_id 52
garp_master_delay 1
authentication {
auth_typePASS
auth_pass password
}
track_interface {
eth0
}
virtual_ipaddress {
172.16.111.2/16 dev eth0 label eth0:1
}
track_script {
chk_httpd
chk_schedown
}
notify_master "/etc/keepalived/notify.sh master eth0:1"
notify_backup "/etc/keepalived/notify.sh backup eth0:1"
notify_fault "/etc/keepalived/notify.sh fault eth0:1"
}




然后重启服务做测试:


210601463.jpg

210602509.jpg

然后打开网页做测试


210624432.jpg

210625450.jpg

这个时候我们继续来仿照做下HA1的故障测试:


210706319.jpg

210707539.jpg

这个时候可以刷新下两个web页面,可以看出来页面都是node2的页面,这里就不在做测试,大家可以自行测试



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-5938-1-1.html 上篇帖子: LVS之NET与DR模型的实现 下篇帖子: Lvs+keepalived 实现负载均衡、故障剔除(DR模式)

尚未签到

发表于 2013-5-17 04:33:26 | 显示全部楼层
长得真有创意,活得真有勇气!

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

尚未签到

发表于 2013-5-17 17:10:27 | 显示全部楼层
此地禁止大小便,违者没收工具。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

尚未签到

发表于 2013-5-18 10:46:46 | 显示全部楼层
勃起不是万能的,但不能勃起却是万万都不能的!

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

累计签到:1 天
连续签到:1 天
发表于 2013-5-19 04:27:44 | 显示全部楼层
自从我变成了狗屎,就再也没有人踩在我头上了。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

尚未签到

发表于 2013-5-19 07:14:40 | 显示全部楼层
男人偷腥时的智商仅次于爱因斯坦!

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

尚未签到

发表于 2013-5-19 08:21:30 | 显示全部楼层
男人有冲动可能是爱你,也可能是不爱,但没有冲动肯定是不爱!

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表