Hadoop是一个集合了:存储、计算、资源调度为一体的大数据分布式框架

步骤 1:逐台验证 & 准备

java -version

注:请确认已经完成前置准备中的服务器创建、固定IP、防火墙关闭、Hadoop用户创建、SSH免密、JDK部署等操作

步骤 2:下载hadoop

安装包下载官方网址:https://hadoop.apache.org

步骤 3:安装配置hadoop

1.创建目录并赋权

sudo mkdir -p /opt/hadoop
sudo chown xjw:xjw /opt/hadoop
cd /opt/hadoop

2.直接共享文件夹复制 → /opt/hadoop/

3.解压缩安装包到到 /opt/hadoop

4.构建软链接 ln -s

tar -zxvf /mnt/hgfs/Download/hadoop-3.3.6.tar.gz -C /opt/hadoop
cd /opt/hadoop
ln -s hadoop-3.3.6 hadoop

5.设置环境变量

echo "export JAVA_HOME=$JAVA_HOME" >> ~/.bashrc
source ~/.bashrc
hadoop version

步骤4:Hadoop配置文件

1.编辑core-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

2.编辑hdfs-site.xml,配置副本数(单机模式设为1):

<?xml version="1.0" encoding="UTF-8"?>
<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>
3.编辑mapred-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
  </property>
</configuration>

4.编辑yarn-site.xml

<?xml version="1.0" encoding="UTF-8"?>
<configuration>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
</configuration>

步骤5:启动

1.格式化hdfs

hdfs namenode -format  

2.启动服务

start-dfs.sh
start-yarn.sh

3.验证服务状态

jps

4.访问web界面

 http://node1:9870 
 http://node1:8088

http://192.168.88.131:9870
http://192.168.88.131:8088
注:系统里虽然装了 OpenJDK 8,但没有安装 JDK 的开发工具包,所以 jps 这个命令不存在。

安装一下就可以了

sudo yum install -y java-1.8.0-openjdk-devel

Logo

码道开发者社区,聚焦华为云码道 CodeArts 代码智能体,沉淀 Agent、Skill、鸿蒙开发实战内容,供开发者查阅资料、交流技术、分享工程实践

更多推荐