Hadoop 2.x 伪分布式环境搭建

摘 要

体验一下Hadoop2.x版本在单机环境下是如何安装配置。

系统环境

  • 操作系统:centos 6.5 x64
  • hadoop版本:2.7.0
  • jdk 1.7

上传hadoop安装包

上传完毕后,为了方便操作,在系统根目录下创建/itunic目录,代码如下:

  1. mkdir /itunic

将hadoop解压到itunic目录下

  1. tar  -zxvf  hadoop.2.7.0.tar.gz -C /itunic

配置hadoop

注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop

伪分布式需要修改5个配置文件

1、hadoop-env.sh

打开文件

  1. vi hadoop-env.sh

配置jdk所在的位置

  1. #第27行
  2. export JAVA_HOME=/usr/java/jdk1.7.0_79
2、core-site.xml
  1. <!--指定fs的默认名称-->
  2.         <property>
  3.                 <name>fs.default.name</name>
  4.                 <value>hdfs://itunic:9000</value>
  5.         </property>
  6.         <!-- 指定HDFS的老大(NameNode)的地址 -->
  7.         <property>
  8.             <name>fs.defaultFS</name>
  9.             <value>hdfs://itunic:9000</value>
  10.         </property>
  11.         <!-- 指定hadoop运行时产生文件的存储目录 -->
  12.         <property>
  13.             <name>hadoop.tmp.dir</name>
  14.             <value>/itunic/hadoop-2.7.0/tmp</value>
  15.         </property>
3、hdfs-site.xml
  1. <!-- 指定HDFS副本的数量 -->
  2.         <property>
  3.             <name>dfs.replication</name>
  4.             <value>1</value>
  5.         </property>
4、mapred-site.xml

我们发现目录下并没有mapred-site.xml,只看到了一个类似的 mapred-site.xml.template模板文件,没错,我们需要将模板文件重命名为mapred-site.xml,这样的话就可以正常的配置了。具体操作如下:

  1. #copy文件mapred-site.xml.template 将其命名为mapred-site.xml
  2. mv mapred-site.xml.template mapred-site.xml
  3. #编辑mapred-site.xml
  4. vi mapred-site.xml
  1. <!-- 指定mr运行在yarn上 -->
  2.         <property>
  3.             <name>mapreduce.framework.name</name>
  4.             <value>yarn</value>
  5.         </property>
5、 yarn-site.xml
  1. <!-- 指定YARN的老大(ResourceManager)的地址 -->
  2.         <property>
  3.             <name>yarn.resourcemanager.hostname</name>
  4.             <value>itunic</value>
  5.                 </property>
  6.         <!-- reducer获取数据的方式 -->
  7.                 <property>
  8.             <name>yarn.nodemanager.aux-services</name>
  9.             <value>mapreduce_shuffle</value>
  10.         </property>

将Hadoop配置到系统的环境变量中

  1. vi /etc/profile
  2. #内容如下:
  3. JAVA_HOME=/usr/java/jdk1.7.0_79
  4. HADOOP_HOME=/itunic/hadoop-2.4.1
  5. export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
  6. #让配置生效:
  7. source /etc/profile

格式化namenode

  1. #两种方式,选其一即可
  2. hadoop namenode -format
  3. hdfs namenode -format

启动及验证

到了这一步,hadoop伪分布式环境已经配置完成,接下来我们需要把hadoop启动起来。

  1. #先启动HDFS
  2. sbin/start-dfs.sh
  3. #再启动YARN
  4. sbin/start-yarn.sh

验证是否启动成功

  1. #使用jps命令验证
  2. 27208 NameNode
  3. 28318 Jps
  4. 22343 SecondaryNameNode
  5. 21266 NodeManager
  6. 23303 ResourceManager
  7. 21212 DataNode

浏览器访问

http://192.168.10.1:50070 (HDFS管理界面)

http://192.168.10.1:8088 (MR管理界面)

相关

想了解Hadoop是什么请点击Hadoop简介

 

  • Hadoop 2.x 伪分布式环境搭建已关闭评论
  • 36 views
  • A+
所属分类:未分类
avatar