windows环境配置hadoop(eclipse)的开发环境

导读:本篇文章讲解 windows环境配置hadoop(eclipse)的开发环境,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

准备

1.JDK1.8以及Eclipse软件
2.Eclpse的Hadoop插件
3.hadoop压缩包一份
4.一份演示案例代码
5.确保集群正常,宿主机可以ping通master主机,并可以连接SSH(测试防火墙是否关闭)
6.复制hadoop集群中的hosts文件到windows的c:/windows/system32/drivers/etc/hosts

正文

  1. 打开Hadoop插件.把压缩包中的release文件夹下的所有JAR文件.复制到eclipse\plugins文件夹下
  2. 解压hadoop,本例为d盘
  3. WINDOWS设置hadoop环境变量 D:\hadoop-2.6.4\bin
  4. 打开eclipse,选中Window的Preferences
  5. 将下列图示的路径,设置为hadoop的根目录
    在这里插入图片描述
  6. 设置插件显示和站点添加
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

在这里插入图片描述

hadoop fs -mkdir /user 
hadoop fs -mkdir /user/hadoop 
hadoop fs   -mkdir /user/hadoop/input

(问题解决:若提示中出现name node is safe mode,则输入 hadoop dfsadmin -safemode leave,退出安全模式)

  1. 查看连接(可以刷新)

在这里插入图片描述
(问题解决:若出现权限问题,在xshell master里:#hadoop fs -chmod 777 /user/hadoop/input)

  1. New->Project->MapReduce Project

在这里插入图片描述

  1. 创建class

在这里插入图片描述
11. 复制保存的代码并保存运行
12. 选中项目,右键run As>Run Configurations进行设置

在这里插入图片描述
13. 验收结果(可以刷新)
在这里插入图片描述
注:
在src目录下创建一个文件,文件名为log4j.properties

# Root Logger
log4j.rootLogger=DEBUG,console,file
log4j.appender.console=org.apache.log4j.ConsoleAppender
log4j.appender.console.layout=org.apache.log4j.PatternLayout
log4j.appender.console.layout.ConversionPattern=%5p [%t] - %m%n
log4j.appender.file=org.apache.log4j.DailyRollingFileAppender
log4j.appender.file.File=log.html
log4j.appender.file.layout=org.apache.log4j.HTMLLayout

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/11838.html

(0)
小半的头像小半

相关推荐

极客之音——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!