设为首页 收藏本站
查看: 1286|回复: 0

[经验分享] Hadoop 权限管理(转)

[复制链接]

尚未签到

发表于 2015-7-13 08:11:40 | 显示全部楼层 |阅读模式
  如下图,hadoop访问控制分为两级,其中ServiceLevel Authorization为系统级,用于控制是否可以访问指定的服务,例如用户/组是否可以向集群提交Job,它是最基础的访问控制,优先于文件权限和mapred队列权限验证。Access Control on Job Queues在job调度策略层之上,控制mapred队列的权限。DFSPermmision用户控制文件权限。目前版本中,连接到hadoop集群的用户/组信息取决于客户端环境,即客户端主机中`whoami`和`bash –c groups`取到的用户名和组名,没有uid和gid,用户属组列表中只要有一个与集群配置的用户组相同即拥有该组权限。
DSC0000.jpg
  1、 配置Service Level Authorization
  修改core-site.xml



  
hadoop.security.authorization  
true  
  
  hadoop.security.authorization=true则开启ServiceLevel Authorization,若为false则不经过任何验证,所有用户拥有全部权限。(修改此配置需要重启hadoop)
  Service LevelAuthorization有9个可配置的属性,每个属性可指定拥有相应访问权限的用户或者用户组。这9个ACL属性如下(hadoop-policy.xml):
DSC0001.jpg
  这9个属性的配置方法相同,具体如下:
  每个可配置多个用户,用户之间用“,”分割;可配置多个用户组,分组之间用“,”分割,用户和分组之间用空格分割,如果只有分组,前面保留一个空格,如:



  
security.job.submission.protocol.acl  
alice,bobgroup1,group2  
  
  
  默认情况下,这9个属性不对任何用户和分组开放。
  该配置文件可使用以下命令动态加载:
  (1)    更新namenode相关属性:bin/hadoop dfsadmin –refreshServiceAcl
  (2)    更新jobtracker相关属性:bin/hadoopmradmin –refreshServiceAcl
  
  2、 调度器配置
  修改mapred-site.xml



  
mapred.jobtracker.taskScheduler  
org.apache.hadoop.mapred.CapacityTaskScheduler  
  
  
  启用Access Contol onJob Queues需选择一个支持多队列管理的调度器,所以mapred.jobtracker.taskScheduler只能为CapacityTaskScheduler或FairScheduler。
  在mapred-site.xml里配置队列,如:



  
mapred.queue.names  
default,hadoop,stat,query  
  
  
  3、 Access Contol on JobQueues配置
  Access Contol on Job Queues开关在mapred-site.xml,如下:





  
mapred.acls.enabled  
true  
   
  mapred.acls.enabled=true开启,为false关闭。
  具体ACL属性在mapred-queue-acl.xml里,如:
  



  
mapred.queue.stat.acl-submit-job  
user1,user2 group1,group2  
  
  表示user1,user2和group1,group2可以向stat queue提交job。
  4、 DFS permission配置
  修改hdfs-site.xml



  
dfspermission   
true  
  
  dfs.permission是否开启文件权限验证,true开启,false不进行读写权限验证。(注:dfs.permission开启与否dfs permission信息都不会改变后丢失,chown、chgrp、chmod操作也始终会验证权限,dfspermission信息只在namenode里,并不在danode里与blocks关联)
  用chown、chgrp、chmod修改文件/目录的属主、属组和权限。
  
  补:Job ACL
  Job ACL默认值配置在mapred-site.xml里,如下:





  
mapreduce.job.acl-view-job  
user1  
  
  
mapreduce.job.acl-modify-job  
user1  
  
  表示,默认情况下,user1用户拥有job的查看和修改权限。
  Job提交者可以指定mapreduce.job.acl-view-job和mapreduce.job.acl-modify-job值,提交时指定的值会覆盖默认值。
  Job提交者、superuser、集群管理员(mapreduce.cluster.administrators)、JobQueue管理员始终拥有该权限。
  
  转自 http://blog.iyunv.com/cheersu/article/details/8080162

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-85923-1-1.html 上篇帖子: Hadoop集群配置【六、thrift安装】 下篇帖子: Hadoop的那些事儿
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表