设为首页 收藏本站
查看: 1242|回复: 0

[经验分享] Hadoop错误汇总(更新中)

[复制链接]

尚未签到

发表于 2015-7-13 11:45:49 | 显示全部楼层 |阅读模式
  1.ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in /var/lib/hadoop-0.20/cache/hdfs/dfs/data: namenode
  namespaceID = 240012870; datanode namespaceID = 1462711424 .
  http://blog.iyunv.com/wh62592855/article/details/5752199
  
  2.org.apache.hadoop.security.AccessControlException: Permission denied: user=xxj
  hdfs-site.xml文件中加入
  
  dfs.permissions
  false
  
  
3. Invalid Hadoop Runtime specified; please click 'Configure Hadoop install directory' or fill in library location input
field
  eclipse window->preferences - > Map/Reduce  选择hadoop根目录
  
4.eclipse error: failure to login
  eclipse hadoop plugin/lib 目录中加入
  lib/hadoop-core.jar,
  lib/commons-cli-1.2.jar,
  lib/commons-configuration-1.6.jar,
  lib/commons-httpclient-3.0.1.jar,
  lib/commons-lang-2.4.jar,
  lib/jackson-core-asl-1.0.1.jar,
  lib/jackson-mapper-asl-1.0.1.jar
  修改META-INF/MANIFEST.MF
  Bundle-ClassPath: classes/,lib/hadoop-core.jar,lib/commons-cli-1.2.jar,lib/commons-configuration-1.6.jar,lib/commons-httpclient-3.0.1.jar,lib/commons-lang-
  2.4.jar,lib/jackson-core-asl-1.0.1.jar,lib/jackson-mapper-asl-1.0.1.jar
  
5.hadoop 1.0.0版本
hadoop 启动时 TaskTracker无法启动
ERROR org.apache.hadoop.mapred.TaskTracker: Can not start task tracker because java.io.IOException: Failed to set permissions of path: \tmp\hadoop-admin
  \mapred\local\ttprivate to 0700
at org.apache.hadoop.fs.FileUtil.checkReturnValue(FileUtil.java:682)
at org.apache.hadoop.fs.FileUtil.setPermission(FileUtil.java:655)
at org.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:509)
at org.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:344)
at org.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:189)
at org.apache.hadoop.mapred.TaskTracker.initialize(TaskTracker.java:719)
at org.apache.hadoop.mapred.TaskTracker.(TaskTracker.java:1436)
at org.apache.hadoop.mapred.TaskTracker.main(TaskTracker.java:3694)
  eclipse运行作业  Failed to set permissions of path: \tmp\hadoop-admin\mapred\staging\Administrator-1506477061\.staging to 0700
  :Windows环境下的Hadoop TaskTracker无法正常启动  包括0.20.204、0.20.205、1.0.0版本
  网上的解决方案 五花八门  有的说用 0.20.204以下版本 等
  我采用修改FileUtil类 checkReturnValue方法代码 重新编译  替换原来的hadoop-core-1.0.0.jar文件 来解决
  改后的hadoop-core-1.0.0.jar下载地址http://download.iyunv.com/detail/java2000_wl/4326323
  bug https://issues.apache.org/jira/browse/HADOOP-7682
  
  6.Bad connection to FS. command aborted. exception: Call to dp01-154954/192.168.13.134:9000 failed on connection exception: java.net.ConnectException: Connection refused: no further information
  ERROR org.apache.hadoop.hdfs.server.namenode.NameNode: org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory D:\tmp\hadoop-SYSTEM\dfs\name is in an inconsistent
  state: storage directory does not exist or is not accessible.
  重新格式化  bin/hadoop namenode -format  (小心不要拼错)
  
  7.org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete /tmp/hadoop-SYSTEM/mapred/system. Name node is in safe mode.
The ratio of reported blocks 0.9412 has not reached the threshold 0.9990. Safe mode will be turned off automatically.
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.deleteInternal(FSNamesystem.java:1992)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.delete(FSNamesystem.java:1972)
at org.apache.hadoop.hdfs.server.namenode.NameNode.delete(NameNode.java:792)
at sun.reflect.GeneratedMethodAccessor5.invoke(Unknown Source)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:563)
at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1388)
at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1384)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:396)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1083)
at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1382)
  :bin/hadoop dfsadmin -safemode leave (解除安全模式)
  safemode参数说明:
  enter - 进入安全模式
  leave - 强制NameNode离开安全模式
  get -   返回安全模式是否开启的信息
  wait - 等待,一直到安全模式结束。
  
  8 hbase
  INFO org.apache.hadoop.hbase.util.FSUtils: Waiting for dfs to exit safe mode...
  :bin/hadoop dfsadmin -safemode leave (解除安全模式)
  

  9.win7下 ssh启动不了  错误:ssh: connect to host localhost port 22: Connection refused
  输入windows 登录用户名
  
DSC0000.jpg
  
  
DSC0001.jpg
  
  参考:http://blog.163.com/tienan_feng@126/blog/static/173379258201132021831344/

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-86303-1-1.html 上篇帖子: Hadoop:输入,输出,key,value格式 下篇帖子: 用PHP编写Hadoop的MapReduce程序
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表