关于centos环境下Flume+hadoop+hive常用命令

小fish

　　centos命令
　　进入root用户
su root
　　1、 复制
　　2、解压tar.gz
tar zxvf xxx.tar.gz
　　3、文件操作
　　－创建文件夹
mkdir mkdir /usr/
　　mkdir 文件名
　　－移动文件
mv [options] 源文件或目录 目标文件或目录
　　—删除一个文件
rm
　　—删除一个文件夹
rm /home/test
rm -r /home/test
　　—文件赋权限
cmod 1.txt
　　4、修改文件夹权限
chown -R Hadoop.Hadoop /
增加可执行读写权限
chmod 777 ./jdk1.8.0_40/*.*
　　5、查看端口占用

netstat -lnp|grep 8000
查看进程详情
ps 4848
杀掉该进程
kill -9 4848

6、通过vi 编辑清楚所有
.,$d

Hadoop相关操作

1）启动相关
bin/hdfs namenode -format
sbin/hadoop-daemon.sh start namenode
sbin/hadoop-daemon.sh start  datanode
sbin/hadoop-daemon.sh start secondarynamenode
2）创建文件夹
./bin/hadoop dfs -mkdir /flume_logs

splunk的启动

bin/splunk start

Flume的启动

bin/flume-ng agent -n agent1 -c conf -f /home/Hadoop/flume/apache-flume-1.5.2-bin/conf/f3.conf  -Dflume.root.logger=DEBUG,console   

MySql安装

1、查找是否之前装过mysql
rpm -qa|grep -i mysql
2、删除查询到的包
rpm -ev 包
yum -y remove
3、删除老版本mysql的开发头文件和库
whereis mysql
rm -f /etc/my.cnf （删掉）
rm -f 查找出来的路径
4、安装mysql
1）安装前准备：两个rpm包
2）执行安装，先安装服务器端软件，再安装客户端软件
rpm -ivh MySQL-server-5.6.24-1.linux_glibc2.5.i386.rpm
rpm -ivh MySQL-client-5.6.24-1.linux_glibc2.5.i386.rpm

Hive操作
1、hive配置
　　<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://10.211.55.3:3306/hive?characterEncoding=UTF-8</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.jdbc.Driver</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>hivedb</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>hivedb</value>
    </property>
     <property>
        <name>hive.metastore.local</name>
        <value>false</value>
   </property>
    <property>
          <name>hive.metastore.uris</name>  
          <value>thrift://127.0.0.1:9083</value>  
    </property>  
</configuration>
2、需要先启动metastore和hiveserver服务的　　bin/hive --service metastore &

　　bin/hive --service hiveserver &
　　3、启动hive
　　hive