Linux 下搭建 Hadoop 环境作者：Grey
原文地址：
博客园：Linux 下搭建 Hadoop 环境
CSDN：Linux 下搭建 Hadoop 环境
环境要求操作系统：CentOS 7
下载地址
安装说明
需要准备两个节点，一个是 master 节点，另一个是 slave 节点 。
其中 master 节点的 IP：192.168.100.130
slave 节点的 IP：192.168.100.131
【Linux 下搭建 Hadoop 环境】并且参考Linux 下配置 hosts 并设置免密登录先配置好两个免密登录 。
JDK 版本：8u181
下载地址
Hadoop 版本：2.7.5
下载地址
如果使用的软件版本不一致，请以官方搭建文档为准 。
安装步骤准备软件目录
mkdir /datalake上传之前下载好的安装包到 /datalake 目录下
jdk-8u181-linux-x64.gz
hadoop-2.7.5.tar.gz
批量解压这几个安装包
cd /datalakels * | xargs -n1 tar xzvf将解压的软件移动到 /usr/local 目录
cd /datalakemv jdk1.8.0_181 /usr/local/jdkmv hadoop-2.7.5 /usr/local/hadoop配置环境变量
vi /usr/profile添加如下内容
export JAVA_HOME=/usr/local/jdkexport HADOOP_HOME=/usr/local/hadoopexport PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin应用环境变量
source /etc/profile关闭防火墙，在 master 和 slave 下分别执行
systemctl stop firewalld.service以下的配置，在 master 和 slave 上都要做
vi $HADOOP_HOME/etc/hadoop/core-site.xml在<configuration></configuration>节点之间添加如下内容
<property> <name>fs.default.name</name> <value>hdfs://master:9000</value></property><property> <name>hadoop.tmp.dir</name> <value>/usr/local/hadoop/tmp</value></property>配置 hadoop 使用的 jdk，执行
vi $HADOOP_HOME/etc/hadoop/hadoop-env.sh将 jdk 配置为
export JAVA_HOME=/usr/local/jdkvi $HADOOP_HOME/etc/hadoop/core-site.xml在<configuration></configuration>节点之间添加如下内容
<property> <name>dfs.replication</name> <value>1</value></property><property><name>dfs.permissions</name><value>false</value></property>执行
cd $HADOOP_HOME/etc/hadoop && cp mapred-site.xml.template mapred-site.xml然后执行
vi $HADOOP_HOME/etc/hadoop/mapred-site.xml在<configuration></configuration>节点之间添加如下内容
<property> <name>mapred.job.tracker</name> <value>master:9001</value></property>执行
vi $HADOOP_HOME/etc/hadoop/slaves替换为如下内容
masterslave在 master 上把 hadoop 的上述配置文件改好以后，可以执行
cd /usr/local && scp -r hadoop slave:/usr/local/将配置拷贝到 slave，就无需在 slave 上做同样繁琐的配置操作了 。
然后，在 master 节点上进行格式化，执行
hadoop namenode -format最后，在 master 上启动 hadoop
start-dfs.sh启动成功后，在 master 和 slave 上分别执行 jps，可以看到 hadoop 相关的进程已经正常启动
master 上
[root@master local]# jps13984 SecondaryNameNode1579 QuorumPeerMain14108 Jps13693 NameNode13821 DataNodeslave 上
[root@slave hadoop]# jps9478 Jps9401 DataNode
经验总结扩展阅读
- 下个月初桃花运爆棚 感情加深的4大星座
- 下个月福气满满 贵人多助的4星座
- 下个月桃花运爆棚的3大星座 脱单恋爱恋情甜蜜
- 下个月桃花爆棚 依然初心不改的3个星座
- 下月起运势高涨 大富大贵的3星座
- 2022年11月下葬吉日一览表
- 下月开始3星座喜迎财神 财运大爆发
- Linux 下配置 hosts 并设置免密登录
- 地下城堡2：黑暗觉醒图28漩涡之底怎么通关
- 下月这3个星座将会财运愈加旺盛 收获累累硕果