设为首页 收藏本站
查看: 3154|回复: 0

[经验分享] Hadoop日常管理与维护

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2017-12-6 10:11:58 | 显示全部楼层 |阅读模式
本帖最后由 yyert 于 2017-12-6 10:14 编辑

本文描述了hadoop、hbase的启动关闭、表操作以及权限管理。
一、Hadoop服务的启动与关闭
1、启动
使用hadoop以及hbase自带的脚本进行启动,先启动hadoop个服务,再启动hbase服务。
hadoop@bdi:~$ start-dfs.sh
hadoop@bdi:~$ start-yarn.sh
hadoop@bdi:~$ start-hbase.sh
hadoop@bdi:~$ mr-jobhistory-daemon.sh start historyserver
watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
2、关闭
hadoop@bdi:~$ stop-hbase.sh
hadoop@bdi:~$ stop-yarn.sh
hadoop@bdi:~$ stop-dfs.sh
hadoop@bdi:~$ mr-jobhistory-daemon.sh stop historyserver
二、Hadoop端口信息
1、namenode信息
http://ip:50070
watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
2、datanode 信息
http://ip:50075
watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
3、备份namenode信息
http://ip:50090
4、hadoop集群信息
http://ip:8088
watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
5、NodeManager信息
http://ip:8042
watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
三、HBase Shell命令介绍
HBase shell的命令分为三类:
  • 常用命令:status、version、table_help、whoami
  • DDL:create、list、disable、is_disabled、enable、is_enabled、describe、after、exists、drop、drop_all和java admin api
  • DML:put、get、delete、deleteall、scan、count、truncate以及Java client API
    在终端直接运行hbase shell即可进入shell环境,如下:
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    四、表操作
    1、创建表
    创建fxuser表,创建完成后使用list命令进行验证是否创建成功,如下图所示:
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    2、查看表定义
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    3、插入数据
    put的语法如下:
    put ’<table name>’,’row1’,’<colfamily:colname>’,’<value>’
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    scan命令表示列出表的所有数据。
    4、更新数据
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    5、读取数据
    在shell中,直接敲get回车,即可出现帮助信息。
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    6、删除数据
    同样,敲delete回车即可打印出帮助信息。
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    删除一行数据:
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    7、表统计和清空
    统计,执行count '表名',如下:hbase(main):021:0> count 'fxuser'
  • 1 row(s) in 0.0460 seconds清空,执行truncate '表名'即可。
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    8、删除表
    删除表之前,必须先禁用掉才可以。
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    五、权限管理
    在hbase中,针对用户的权限管理有三条命令:grant、revoke和user_permission,语法如图:
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg
    这个权限管理需要在hbase里启用,才可设置,否则会出现“ERROR: DISABLED: Security features are not available”报错。关闭hbase服务,然后编辑hbase-site.xml文件,加入以下内容后,启动hbase:<property>
    <name>hbase.security.authentication</name>
    <value>simple</value>
    </property>
    <property>
    <name>hbase.security.authorization</name>
    <value>true</value>
    </property>
    <property>
    <name>hbase.coprocessor.master.classes</name>
    <value>org.apache.hadoop.hbase.security.access.AccessController</value>
    </property>
    <property>
    <name>hbase.coprocessor.region.classes</name>
    <value>org.apache.hadoop.hbase.security.access.AccessController</value>
    </property>
    <property>
    <name>hbase.coprocessor.regionserver.classes</name>
    <value>org.apache.hadoop.hbase.security.access.AccessController</value>
    </property>
    增加删除权限:
    watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=.jpg


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-421114-1-1.html 上篇帖子: ubuntu 16.04修改网卡名为eth* 下篇帖子: heartbeat+rsync+inotify+samba双机热备方案
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表