任务4:下载/配置/启动hadoop(Hadoop部署9.24)
·
Hadoop是一个集合了:存储、计算、资源调度为一体的大数据分布式框架
步骤 1:逐台验证 & 准备
java -version
注:请确认已经完成前置准备中的服务器创建、固定IP、防火墙关闭、Hadoop用户创建、SSH免密、JDK部署等操作
步骤 2:下载hadoop
安装包下载官方网址:https://hadoop.apache.org

步骤 3:安装配置hadoop
1.创建目录并赋权
sudo mkdir -p /opt/hadoop
sudo chown xjw:xjw /opt/hadoop
cd /opt/hadoop
2.直接共享文件夹复制 → /opt/hadoop/
3.解压缩安装包到到 /opt/hadoop
4.构建软链接 ln -s
tar -zxvf /mnt/hgfs/Download/hadoop-3.3.6.tar.gz -C /opt/hadoop
cd /opt/hadoop
ln -s hadoop-3.3.6 hadoop
5.设置环境变量
echo "export JAVA_HOME=$JAVA_HOME" >> ~/.bashrc
source ~/.bashrc
hadoop version

步骤4:Hadoop配置文件
1.编辑core-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
2.编辑hdfs-site.xml,配置副本数(单机模式设为1):
<?xml version="1.0" encoding="UTF-8"?>
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
3.编辑mapred-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
4.编辑yarn-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>
步骤5:启动
1.格式化hdfs
hdfs namenode -format
2.启动服务
start-dfs.sh
start-yarn.sh

3.验证服务状态
jps

4.访问web界面
http://node1:9870
http://node1:8088
或
http://192.168.88.131:9870
http://192.168.88.131:8088
注:系统里虽然装了 OpenJDK 8,但没有安装 JDK 的开发工具包,所以 jps 这个命令不存在。
安装一下就可以了
sudo yum install -y java-1.8.0-openjdk-devel
更多推荐



所有评论(0)