设为首页 收藏本站
查看: 1023|回复: 0

[经验分享] hadoop-执行mapreduce时主机名非法的处理

[复制链接]

尚未签到

发表于 2015-7-11 09:32:15 | 显示全部楼层 |阅读模式
  hadoop搭建正常,在执行mr时,提示一个datanode节点主机名非法:
  [tianyc@TeletekHbase bin]$ ~/hadoop/bin/hadoop jar ~/hadoop/contrib/streaming/hadoop-streaming-1.0.4.jar -mapper ~/study/mapred/python/map.py -reducer ~tudy/mapred/python/red.py -input test.dat -output test-output
packageJobJar: [/tmp/hadoop-tianyc/hadoop-unjar7725183963809127230/] [] /tmp/streamjob4354715876493197255.jar tmpDir=null
13/02/19 23:12:56 INFO util.NativeCodeLoader: Loaded the native-hadoop library
13/02/19 23:12:56 WARN snappy.LoadSnappy: Snappy native library not loaded
13/02/19 23:12:56 INFO mapred.FileInputFormat: Total input paths to process : 1
13/02/19 23:12:56 INFO streaming.StreamJob: getLocalDirs(): [/tmp/hadoop-tianyc/mapred/local]
13/02/19 23:12:56 INFO streaming.StreamJob: Running job: job_201302192306_0001
13/02/19 23:12:56 INFO streaming.StreamJob: To kill this job, run:
13/02/19 23:12:56 INFO streaming.StreamJob: /home/tianyc/hadoop-1.0.4/libexec/../bin/hadoop job  -Dmapred.job.tracker=http://TeletekHbase:9001 -kill job_201302192306_0001
13/02/19 23:12:56 INFO streaming.StreamJob: Tracking URL: http://TeletekHbase:50030/jobdetails.jsp?jobid=job_201302192306_0001
13/02/19 23:12:57 INFO streaming.StreamJob:  map 100%  reduce 100%
13/02/19 23:12:57 INFO streaming.StreamJob: To kill this job, run:
13/02/19 23:12:57 INFO streaming.StreamJob: /home/tianyc/hadoop-1.0.4/libexec/../bin/hadoop job  -Dmapred.job.tracker=http://TeletekHbase:9001 -kill job_201302192306_0001
13/02/19 23:12:57 INFO streaming.StreamJob: Tracking URL: http://TeletekHbase:50030/jobdetails.jsp?jobid=job_201302192306_0001
13/02/19 23:12:57 ERROR streaming.StreamJob: Job not successful. Error: Job initialization failed:
java.net.UnknownHostException: TkHbase_2 is not a valid Inet address
        at org.apache.hadoop.net.NetUtils.verifyHostnames(NetUtils.java:569)
        at org.apache.hadoop.mapred.JobInProgress.initTasks(JobInProgress.java:711)
        at org.apache.hadoop.mapred.JobTracker.initJob(JobTracker.java:4207)
        at org.apache.hadoop.mapred.EagerTaskInitializationListener$InitJob.run(EagerTaskInitializationListener.java:79)
        at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1110)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:603)
        at java.lang.Thread.run(Thread.java:722)
  13/02/19 23:12:57 INFO streaming.StreamJob: killJob...
Streaming Command Failed!
  这是因为hadoop集群中的主机名不能带有下划线。
  将该节点的hostname改为TkHbase2后,重启主机和hadoop,再次执行mr作业,即正常。
  参考:
  http://www.rqna.net/qna/vrxiv-error-running-mapreduce-jobs-not-a-valid-inet-address.html
  http://social.msdn.microsoft.com/Forums/nl-BE/hdinsight/thread/3c2dc886-74a5-4062-a208-a807b99380fa
  

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-85405-1-1.html 上篇帖子: [大牛翻译系列]Hadoop(2)MapReduce 连接:复制连接(Replication join) 下篇帖子: [译] 基于Hadoop的视频流服务(Using Hadoop for Video Streaming)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表