这篇文章主要介绍“eclipse debug怎么调试mapreduce程序”,在日常操作中,相信很多人在eclipse debug怎么调试mapreduce程序问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”eclipse debug怎么调试mapreduce程序”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
1、将mapred-site.xml文件拷贝一份到项目中
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapred.child.java.opts</name>
<value>-Xmx800m -Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8000</value>
</property>
<property>
<name>mapreduce.jobtracker.staging.root.dir</name>
<value>/tmp</value>
</property>
<property>
<name>yarn.app.mapreduce.am.staging-dir</name>
<value>/tmp</value>
</property>
<property>
<name>mapreduce.framework.name</name>
<value>local</value>
</property>
<property>
<name>mapreduce.jobtracker.address</name>
<value>local</value>
</property>
<property>
<name>mapred.job.tracker</name>
<value>local</value>
</property>
</configuration>
2、在项目中加入本地mapred-site.xml配置,从本地项目中读取配置文件运行,在reduce中debug
Job job = new Job(conf, "word count");
conf.addResource("classpath:/Hadoop01/mapred-site.xml");
conf.set("fs.defaultFS", "hdfs://192.168.1.10:9008");
conf.set("mapreduce.framework.name", "yarn");
conf.set("yarn.resourcemanager.address", "192.168.1.10:8032");
conf.set("mapred.remote.os", "Linux");
conf.set("hadoop.job.ugi", "hadoop,hadoop");
到此,关于“eclipse debug怎么调试mapreduce程序”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注天达云网站,小编会继续努力为大家带来更多实用的文章!