redhat linux 6.3 oracle 11g rac 双机搭建

re21

数据库：

P10404530_112030_linux-x86-64_1of7.zip

P10404530_112030_linux-x86-64_2of7.zip

集群件（11G中的GRID）：

P10404530_112030_linux-x86-64_3of7.zip

这三个包

操作系统：

Redhat6.3

1        安装准备1.1  安装操作系统PATCHES1.1.2       安装PATCHESyum install -y inutils compat* glibc ksh-*libaio* libgcc libstdc++ make gcc* glibc-devel libaio-devel libstdc++ sysstatglibc* libstdc++ elfutils-libelf-devel rpm -ivh --nodeps --forcebinutils-2.20.51.0.2-5.34.el6.x86_64.rpm
rpm -ivh --nodeps --forcecompat-libstdc++-33-3.2.3-69.el6.x86_64.rpm
rpm -ivh --nodeps --forceglibc-2.12-1.80.el6.x86_64.rpm
rpm -ivh --nodeps --force ksh-*.rpm
rpm -ivh --nodeps --forcelibaio-0.3.107-10.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibgcc-4.4.6-4.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibstdc++-4.4.6-4.el6.x86_64.rpm
rpm -ivh --nodeps --forcemake-3.81-20.el6.x86_64.rpm
rpm -ivh --nodeps --forcecompat-libcap1-1.10-1.x86_64.rpm
rpm -ivh --nodeps --forcegcc-4.4.6-4.el6.x86_64.rpm
rpm -ivh --nodeps --forcegcc-c++-4.4.6-4.el6.x86_64.rpm
rpm -ivh --nodeps --forceglibc-devel-2.12-1.80.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibaio-devel-0.3.107-10.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibstdc++-devel-4.4.6-4.el6.x86_64.rpm
rpm -ivh --nodeps --forcesysstat-9.0.4-20.el6.x86_64.rpm
rpm -ivh --nodeps --forcecompat-libstdc++-33-3.2.3-69.el6.x86_64.rpm
rpm -ivh --nodeps --forceglibc-2.12-1.80.el6.x86_64.rpm
rpm -ivh --nodeps --forceglibc-devel-2.12-1.80.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibaio-0.3.107-10.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibaio-devel-0.3.107-10.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibgcc-4.4.6-4.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibstdc++-4.4.6-4.el6.x86_64.rpm
rpm -ivh --nodeps --forcelibstdc++-devel-4.4.6-4.el6.x86_64.rpm
rpm -ivh --nodeps --forceelfutils-libelf-devel-0.152-1.el6.x86_64.rpm
1.2  主机网络配置

主机网络设置检查：hosts文件系修改、网卡IP配置。

1.        编辑hosts文件，将如下内容添加到hosts文件中，指定Public IP、VIP、Private IP。

2.        Vi /etc/hosts

172.16.64.129            rac1

172.16.64.130            rac2

10.10.10.10           racpriv1

10.10.10.11           racpriv2

172.16.64.131           racvip1

172.16.64.132           racvip2

172.16.64.133           scanip

192.168.8.181   rac1

192.168.8.182   rac2

192.168.1.10    racpriv1

192.168.1.20    racpriv2

192.168.8.184   racvip1

192.168.8.185   racvip2

192.168.8.190   scanip

3.        网卡的IP地址已经在系统安装过程中配置完成，可以使用如下命令检查IP配置情况：#ifconfig

1.3  安装任务1.3.1       创建操作系统组和用户在两个节点创建相应的操作系统组和用户，先创建组，然后创建用户：
以root用户使用如下命
groupadd -g 1301 asmadmin
groupadd -g 1302 asmdba
groupadd -g 1303 asmoper
groupadd -g 1304 oinstall
groupadd -g 1305 dba
useradd -u 1300 -g oinstall -G asmadmin,asmdba,asmoper grid
useradd  -u 1310 -g oinstall -G dba,asmdba oracle
使用passwd命令为grid（密码：grid）和oracle（密码：oracle）账户设置密码。
#passwd jsepc01!
#passwd jsepc01!

1.3.2       创建软件安装目录结构并更改权限在两个节点创建相应的目录改变属主并改变权限
以root用户使用如下命
mkdir /grid
mkdir -p/u01/app/oracle/product/11.2.0/dbhome_1
mkdir -p /u01/app/grid/11.2.0
chown -R grid:oinstall /u01
chown -R grid:oinstall /grid
chown -R oracle:oinstall /u01/app/oracle
chmod -R 775 /u01

1.3.3       修改用户概要文件在两个节点上分别修改
grid用户.bash_profile
添加如下内容：

exportORACLE_BASE=/u01/app/grid

exportORACLE_HOME=/u01/app/11.2.0/grid

export NLS_LANG=AMERICAN_AMERICA.ZHS16GBK

export PATH=$PATH:$HOME/bin:$ORACLE_HOME/bin

oracle用户.bash_profile
添加如下内容：

exportORACLE_BASE=/u01/app/oracle

exportORACLE_HOME=$ORACLE_BASE/product/11.2.0/dbhome_1

exportPATH=$PATH:$HOME/bin:$ORACLE_HOME/bin

export NLS_LANG=AMERICAN_AMERICA.ZHS16GBK

1.3.4       修改限制条件在两个节点上分别执行，以root用户进行编辑
vim /etc/security/limits.conf
grid             soft    nproc           2047
grid             hard    nproc           16384
grid             soft    nofile          1024
grid             hard    nofile         65536
oracle           soft    nproc           2047
oracle           hard    nproc           16384
oracle           soft    nofile          1024
oracle           hard    nofile          65536

1.3.5       修改内核参数关闭所有节点防火墙用root用户在两个节点分别编辑
vim /etc/sysctl.conf

添加内容：
kenel.shmmni = 4096
kenel.sem = 25032000100128
fs.aio-max-nr = 1048576
fs.file-max = 6815744
net.ipv4.ip_local_port_range = 900065500
net.core.rmem_default = 262144
net.core.rmem_max = 4194304
net.core.wmem_default = 262144
net.core.wmem_max = 1048586
vm.hugetlb_shm_group = 501

用root用户关闭两个节点防火墙：
#Service iptables status
#Service iptables stop

1.3.6       配置互信[grid@rac1 ~]# rm -rf $HOME/.ssh  两个节点都要执行
rm -rf /root/.ssh
集群软件解压之后
cd/grid/grid/sshsetup
[grid@rac1 sshsetup]$ pwd
/u01/grid/grid/sshsetup

此步骤只要在一个节点上执行
[grid@rac1sshsetup]$ ./sshUserSetup.sh -user  grid-hosts "rac1 rac2" -advanced -noPromptPassphrase

此步骤只要在一个节点上执行
[grid@rac1 sshsetup]$ ./sshUserSetup.sh -user oracle-hosts "rac1 rac2" -advanced –noPromptPassphrase

两个用户(Grid和Oracle)都要验证互信
ssh rac1 date
ssh racpriv1 date
ssh rac2 date                                       
ssh racpriv2 date
没有提示输入密码则成功

1.3.7       存储分区（在一个节点上执行）所有规划的设备进行分区，例如在节点1上对sdc盘进行划盘：
[iyunv@rac1~]# fdisk /dev/sdc               
WARNING: DOS-compatible mode is deprecated.It's strongly recommended to
        switch off the mode (command 'c') and change display units to
sectors (command 'u').

Command (m for help): p

Disk /dev/sde: 536.9 GB, 536870912000 bytes
255 heads, 63 sectors/track, 65270cylinders
Units = cylinders of 16065 * 512 = 8225280bytes
Sector size (logical/physical): 512 bytes /512 bytes
I/O size (minimum/optimal): 512 bytes / 512bytes
Disk identifier: 0x000d60dc

  Device Boot      Start         End      Blocks  Id  System

Command (m for help): n
Command action
  e   extended
  p   primary partition (1-4)
p
Partition number (1-4): 1
First cylinder (1-65270, default 1):
Using default value 1
Last cylinder, +cylinders or +size{K,M,G}(1-65270, default 65270):
Using default value 65270

Command (m for help): w
The partition table has been altered!

Calling ioctl() to re-read partition table.
Syncing disks.
所有节点同步分区
Partprobe

注意：本例的存储是按照一般情况来配置的，实际划分请根据情况而定。

1.3.8       绑定裸设备用root用户两个节点都需执行：
vim /etc/udev/rules.d/60-raw.rules
# Enter raw device bindings here.
#                          
# An example would be:
#  ACTION=="add", KERNEL=="sda", RUN+="/bin/raw/dev/raw/raw1 %N"
# to bind /dev/raw/raw1 to /dev/sda, or
#  ACTION=="add", ENV{MAJOR}=="8",ENV{MINOR}=="1",
RUN+="/bin/raw /dev/raw/raw2 %M%m"
# to bind /dev/raw/raw2 to the device withmajor 8, minor 1.
#for ocr_voting
ACTION=="add",KERNEL=="sdc1",RUN+="/bin/raw/dev/raw/raw1 %N"
ACTION=="add",KERNEL=="sdc2",RUN+="/bin/raw/dev/raw/raw2 %N"
ACTION=="add",KERNEL=="sdd1",RUN+="/bin/raw/dev/raw/raw3 %N"
ACTION=="add",KERNEL=="sdd2",RUN+="/bin/raw/dev/raw/raw4 %N"
ACTION=="add",KERNEL=="sde1",RUN+="/bin/raw/dev/raw/raw5 %N"
ACTION=="add",KERNEL=="sde2",RUN+="/bin/raw/dev/raw/raw6 %N"
ACTION=="add",KERNEL=="sdf1",RUN+="/bin/raw/dev/raw/raw7 %N"
ACTION=="add",KERNEL=="sdf2",RUN+="/bin/raw/dev/raw/raw8 %N"
KERNEL=="raw[1-8]", OWNER="grid",GROUP="asmadmin", MODE="0660"

重启 UDEV：
# /sbin/start_udev

验证：
[iyunv@db1 rules.d]# ll /dev/raw
total 0
crw-rw---- 1 grid asmadmin 162,  1 Jul 28 15:19 raw1
crw-rw---- 1 grid asmadmin 162,  2 Jul 28 15:19 raw2
crw-rw---- 1 grid asmadmin 162,  3 Jul 28 15:19 raw3
crw-rw---- 1 grid asmadmin 162,  4 Jul 28 15:19 raw4
crw-rw---- 1 grid asmadmin 162,  5 Jul 28 15:19 raw5
crw-rw---- 1 grid asmadmin 162,  6 Jul 28 15:19 raw6
crw-rw---- 1 grid asmadmin 162,  7 Jul 28 15:19 raw7
crw-rw---- 1 grid asmadmin 162,  8 Jul 28 15:19 raw8
crw-rw---- 1 root disk     162, 0 Jul 28 15:19 rawctl
2        安装Grid节点1用GRID用执行：
[grid@rac1grid]$ ./runI*

注：在上图的SCAN name中，填写在/etc/hosts中定义的scan名字在配置网络增强界面时，规划好的集群名、SCAN名，SCAN端口，不勾选ConfigureGNS（GNS需要DHCP服务器配合，本次部署无DHCP服务器）：

本例中我们使用的是/etc/hosts解析，所以直接填写scanip，即可。

Next：   

注：执行上述脚本千万要注意顺序

先在节点1和节点2执行：
/u01/app/oraInventory/orainstRoot.sh
其次在节点1和节点2执行：
/u01/app/11.2.0/grid/root.sh
如下图：

执行成功后点继续：

如有上述两个错误可以忽略。

点击Close安装完成。

3        安装数据库软件

这里只安装数据库软件，之后再用dbca命令建立集群实例。安装完database软件后，需要建立ASM磁盘组。

使用oracle用户登录进行安装。

选择不接收更新，Next：

选择只安装数据库软件，Next：

选择real application cluster database installlation，然后选中所有的节点，Next：

选择数据库版本：Enterprise Edition，Next：

选择安装目录，Next：

Next：

开始执行安装前检查

点击Ignore all继续安装。

点击Install进行安装：

安装进度大概至94%时，提示需要运行相关脚本，按要求顺序执行，正确执行完毕后点击：OK

关闭窗口，完成database的安装。

4        创建ASM磁盘组

在建库前需要先创建存储数据文件的ASM磁盘组。以grid用户登录，执行asmca命令：

弹出如下对话框：、

切换到Disk Group界面，点击Create：

这里我们只选择raw5作为数据文件存放位置，各现场根据自身情况选择。

完成后如上图：

继续选择create创建闪回恢复区存放位置,如下图：

这里选择raw3

创建完成后如下图：

5        DBCA创建数据库

使用oracle用户，运行dbca来建立RAC集群实例。

$dbca

选择建立RAC数据库，Next：

Next：

Next：

这里没选择闪回。

这里各地请按照自己实际物理内存来配置，选择自动内存管理

进程数调整至500

待完成后点击EXIT退出即可。

6      验证服务6.1   客户端连接RAC

现在可以用SQL*PLUS连接到RAC，这时用户的连接可能被定向到任何一个节点，可以通过视图查看当前的连接实例。

通过SQL*PLUS连接RAC。
[oracle@rac1]$sqlplus sys/password@SGTMS
查看当前连接的实例。
SQL>select instance_name fromv$instance;
SGTMS1
6.2   验证Failover（故障转移）（1）连接到RAC。
[iyunv@rac1]#sqlplus sys/password@SGTMS
（2）确认用户当前连接的实例。
SQL>select instance_name fromv$instance;
SGTMS1
用户当前连接到SGTMS1这个实例，不要退出这个回话，第4步还是在这个回话中执行。
（3）关闭SGTMS1这个实例，或者把SGTMS1所在的这台主机关机。
SQL>shutdown  abort;
（4）等待几秒钟，再次执行这个语句，还是在会话1中执行。
SQL>select instance_name fromv$instance;
SGTMS2
这时因为SGTMS1实例被关闭，用户连接自动被转移到SGTMS2这个实例上了。
6.3   验证LoadBalance（负载均衡）这个验证需要两个脚本，一个是SHELL脚本test.sh,另一个是SQl脚本test.sql。
（1）SHELL脚本test.sh内容如下。
#!/bin/sh
#Usage: test SGTMS 4000
count=0
while [$count -lt $2] # Set up a loopcontrol
do
  count='expr $count+1' #Increment the counter
  sqlplus -s username/password@$1 @test.sql
  sleep 1
done
（2）SQL脚本test.sql内容如下。
col Instance_name for a20
select instance_name  from  v$instance
/
（3）准备好脚本后，就可以进行这个测试了。
./test.sh SGTMS 1000
（4）准备执行完后，查看每个实例建立的连接数量。
SQL> select  inst_id,count(*)  from  gv$session  group  by inst_id;
SGTMS1 496
SGTMS2  504