首先要了解一下Hadoop的运行模式:
单机模式(standalone)
单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。
伪分布模式(Pseudo-Distributed Mode)
伪分布模式在“单节点集群”上运行Hadoop,其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入输出,以及其他的守护进程交互。
全分布模式(Fully Distributed Mode)
Hadoop守护进程运行在一个集群上。
版本:ubuntu 13.04,hadoop 1.2.0
1.添加hadoop用户到系统用户
安装前要做一件事——添加一个名为hadoop到系统用户,专门用来做Hadoop测试。
-
~$sudoaddgrouphadoop
-
~$sudoadduser--ingrouphadoophadoop
现在只是添加了一个用户hadoop,它并不具备管理员权限,因此我们需要将用户hadoop添加到管理员组:
-
~$sudousermod-aGadminhadoop
2、安装JDK
这步网络上很多教程。这里不多说。我安装的是JDK 1.7 64位版本
3.安装ssh
由于Hadoop用ssh通信,先安装ssh
-
~$sudoapt-getinstallopenssh-server
ssh安装完成以后,先启动服务:
-
~$sudo/etc/init.d/sshstart
启动后,可以通过如下命令查看服务是否正确启动:
建立ssh无密码登录本机.首先要转换成hadoop用户:
su - hadoop
作为一个安全通信协议,使用时需要密码,因此我们要设置成免密码登录,生成私钥和公钥:
-
hadoop@scgm-ProBook:~$ssh-keygen-trsa-P""
因为我已有私钥,所以会提示是否覆盖当前私钥。第一次操作时会提示输入密码,按Enter直接过,这时会在~/home/{username}/.ssh下生成两个文件:id_rsa和id_rsa.pub,前者为私钥,后者为公钥,现在我们将公钥追加到authorized_keys中(authorized_keys用于保存所有允许以当前用户身份登录到ssh客户端用户的公钥内容):
-
~$cat~/.ssh/id_rsa.pub>>~/.ssh/authorized_keys
现在可以登入ssh确认以后登录时不用输入密码:
登出:
第二次登录:
登出:
这样以后登录就不用输入密码了。
4.安装hadoop
到官网下载hadoop源文件,这里选择hadoop 1.2.0
解压并放到你希望的目录中。我是放到/usr/local/hadoop
-
~$sudotarxzfhadoop-1.2.0.tar.gz
-
~$sudomvhadoop-1.2.0 /usr/local/hadoop
要确保所有的操作都是在用户hadoop下完成的:
-
~$sudochown-Rhadoop:hadoop/usr/local/hadoop
5.设定hadoop-env.sh(Java 安装路径)
进入hadoop目录,打开conf目录下到hadoop-env.sh,添加以下信息:
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64 (视你机器的java安装路径而定)
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:/usr/local/hadoop/bin
并且,让环境变量配置生效source
-
~$source/usr/local/hadoop/conf/hadoop-env.sh
6.设定*-site.xml
这里需要设定3个文件:core-site.xml,hdfs-site.xml,mapred-site.xml,都在/usr/local/hadoop/conf目录下
core-site.xml: Hadoop Core的配置项,例如HDFS和MapReduce常用的I/O设置等。
hdfs-site.xml: Hadoop 守护进程的配置项,包括namenode,辅助namenode和datanode等。
mapred-site.xml: MapReduce 守护进程的配置项,包括jobtracker和tasktracker。
首先在hadoop目录下新建几个文件夹
-
~/hadoop$mkdirtmp
-
~/hadoop$mkdirhdfs
-
~/hadoop$mkdirhdfs/name
-
~/hadoop$mkdirhdfs/data
接下来编辑那三个文件:
core-site.xml:
-
<configuration>
-
<property>
-
<name>fs.default.name</name>
-
<value>hdfs://localhost:9000</value>
-
</property>
-
<property>
-
<name>hadoop.tmp.dir</name>
-
<value>/usr/local/hadoop/tmp</value>
-
</property>
-
</configuration>
hdfs-site.xml:
-
<configuration>
-
<property>
-
<name>dfs.replication</name>
-
<value>1</value>
-
</property>
-
<property>
-
<name>dfs.name.dir</name>
-
<value>/usr/local/hadoop/hdfs/name</value>
-
</property>
-
<property>
-
<name>dfs.data.dir</name>
-
<value>/usr/local/hadoop/hdfs/data</value>
-
</property>
-
</configuration>
mapred-site.xml:
-
<configuration>
-
<property>
-
<name>mapred.job.tracker</name>
-
<value>localhost:9001</value>
-
</property>
-
</configuration>
7.格式化HDFS
通过以上步骤,我们已经设定好Hadoop单机测试到环境,接着就是启动Hadoop到相关服务,格式化namenode,secondarynamenode,tasktracker:
-
~$source/usr/local/hadoop/conf/hadoop-env.sh
-
~$hadoopnamenode-format
8.启动Hadoop
接着执行start-all.sh来启动所有服务,包括namenode,datanode,start-all.sh脚本用来装载守护进程。
-
hadoop@ubuntu:/usr/local/hadoop$cdbin
-
hadoop@ubuntu:/usr/local/hadoop/bin$start-all.sh
用Java的jps命令列出所有守护进程来验证安装成功
-
hadoop@ubuntu:/usr/local/hadoop$jps
出现如下列表,表明成功
9.检查运行状态
所有的设置已完成,Hadoop也启动了,现在可以通过下面的操作来查看服务是否正常,在Hadoop中用于监控集群健康状态的Web界面:
http://localhost:50030/ - Hadoop 管理介面
http://localhost:50060/ - Hadoop Task Tracker 状态
http://localhost:50070/ - Hadoop DFS 状态
Hadoop 管理介面:
Hadoop Task Tracker 状态:
Hadoop DFS 状态:
至此,hadoop的伪分布模式已经安装成功.
当Hadoop结束时,可以通过stop-all.sh脚本来关闭Hadoop的守护进程
-
hadoop@ubuntu:/usr/local/hadoop$bin/stop-all.sh
10.结语
单机模式和伪分布模式均用于开发和调试的目的。真实Hadoop集群的运行采用的是第三种模式,即全分布模式。
参考:
http://www.cnblogs.com/tippoint/archive/2012/10/23/2735532.html
http://blog.csdn.net/hitwengqi/article/details/8008203#quote
分享到:
相关推荐
ubuntu下Hadoop的伪分布式配置
2.本机为ubuntu16.04服务器版本,无图形化界面,剔除无用冗杂的三方软件,速度更快。 hadoop=3.1.3 jdk=1.8.0_162 hbase=2.2.2 mysql=5.7.3 hive=3.1.2 scala=2.11.12 spark=2.4.0 sbt=1.3.8 flink=1.9.1 maven=...
第一步:打开ubuntu终端 如果没有hadoop用户,我们创建一个hadoop用户 使用命令 sudo useradd -m hadoop -s
如果用的是 CentOS/RedHat 系统,请查看相应的CentOS安装Hadoop教程_单机伪分布式配置。 本教程基于原生 Hadoop 2,在 Hadoop 2.6.0 (stable) 版本下验证通过,可适合任何 Hadoop 2.x.y 版本,如 Hadoop 2.7.1、...
小白搭建hadoop完全分布式环境笔记,步骤详细,原创
ubuntu环境下hadoop环境搭建(伪分布模式),是本人学习大数据以来对于hadoop环境搭建的一些经验,现在写成文档的形式分享给大家。
ubuntu下搭建hadoop的单机版和伪分布式,花费一学期搭建完成。
利用VMWare虚拟机建立3台ubuntu虚拟系统,在此基础上搭建的hadoop完全分布式环境,本人亲测可行
使用vmware复制了三个ubuntu18.04虚拟机系统,模拟多台服务器,安装配置完全分布式hadoop。 想修改成免费的,不会修改。有问题可以留言一起交流
自己学习后总结的详细搭建笔记,包括伪分布式,基本按照步骤操作就可以了
NULL 博文链接:https://just2do.iteye.com/blog/2210992
在Ubuntu下利用Hadoop配置与搭建分布式系统。 全部是自己搜网上资料, 自己摸索写的。 内容详细!
对于想学习 Spark 的人而言,如何构建 Spark 集群是其最大的难点之一, 为了解决大家构建 Spark 集群的一切困难,Spark 集群的构建分为了五个步骤,从 零起步,不需要任何前置知识,涵盖操作的每一个细节,构建完整...
1.linux系统:Ubuntu14.04 2.hadoop版本:hadoop-2.2.0 3.JDK版本:Jdk1.8.0_74
spark要配合Hadoop的hdfs使用,然而Hadoop的特点就是分布式,在一台主机上搭建集群有点困难,百度后发现可以使用docker构建搭建,于是开搞: github项目:https://github.com/kiwenlau/hadoop-cluster-docker ...
-018.Hadoop在Win7下免Cygwin环境安装伪分布式与第三方增强软件介入.mp4 -019.Hadoop在Win7下免Cygwin环境安装NativeBug解决与dexpot多桌面应用.mp4 -020.Hadoop架构分析之单节点体系.mp4 021.Hadoop架构分析之集群...
Hadoop伪分布式配置 25 启动Hadoop 26 运行Hadoop伪分布式实例 30 启动YARN 35 附加教程: 配置PATH环境变量 37 使用Eclipse编译运行MapReduce程序(Hadoop-Eclipse-Plugin,建议) 38 使用Eclipse打包自己的...
本文将向您展示如何从零开始在 Linux 上搭建 Hadoop,以及如何配置 Hadoop 的必备文件。 一、选择 Linux 发行版 选择正确的 Linux 发行版是为 Hadoop 集群配置环境的重要一步。Ubuntu、CentOS、Debian 等都是常见的...
该文档是我在hadoop0.20.2 + Ubuntu10.10搭建的详细步骤
hadoop完全分布式的集群搭建 硬件环境 两台虚拟机 linux的Ubuntu10.10的系统 hadoop0.20.2