这篇文章主要为大家展示了“hadoop如何运行mapreduce任务”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“hadoop如何运行mapreduce任务”这篇文章吧。
通常我的做法在eclipse中编写mapper和reduce类,以及driver类,然后打出jar放在hadoop服务器上运行
用下面的命令运行任务
hadoop aboutMapReduce.MaxTemperature /opt/ncdc/micro/ output
但是
如果没有设置CLASSPATH环境变量的话或者CLASSPATH下找不到aboutMapReduce.MaxTemperature的时候,就报类找不到的错误了错误了
Error: Could not find or load main class aboutMapReduce.MaxTemperature
所以我的做法:
在/etc/profile或者.bash_profile中设置环境变量
HADOOP_CLASSPATH=
CLASSPATH=$CLASSPATH:$HADOOP_CLASSPATH
export HADOOP_CLASSPATH
export CLASSPATH
但是运行上面的命令的时候还应该注意:output目录不应该存在,否则报错
以上是“hadoop如何运行mapreduce任务”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注天达云行业资讯频道!