Hadoop环境搭建_hadoop搭建_hadoop网关搭建

本操作是将VM创建的服务器分配IP地址，将IP地址地段分配一起，避免冲突。

打开控制面板

找到虚拟网卡接口VMware Network，进行配置。

配置192.168.56.1网段。（一般1是主服务器）

设置网关192.168.56.10网关，以后数据进行交互时是由网关带出去了。

配置网络信息，将创建的虚拟服务器都在同一个网段了。

2.3 安装CentOS7系统

下载CentOS-7的镜像（百度搜索可以下载，避免版本冲突，最好下载1804版本）

安装位置可以是别的盘，我为了方便就选择C盘了。

.

完成后，会有一个新的主界面，是我们每次启动计算机的界面。

删除掉一些打印机，复印机，不需要的硬件选项，增加运行速度。

牢记用户密码和Root密码，将来需要改配置，需要密码验证。

使用VM的克隆的方法，创建三台虚拟服务器的主机，并且将三台服务器更名为master,slave1,slave2；先关闭主服务器master的开关，然后进行管理克隆操作。

2.4 master主机进行网络配置

登陆成功直接输入下面命令然后回车会出现下面内容

vi /etc/sysconfig/network-scripts/ifcfg-ens33
1

改成以下内容

service network restart
1

slave0和slave1网络配置

使用同样的方法配置slave0和slave1的网络ip地址，开启服务器成功以后。输入代码

vi /etc/sysconfig/network-scripts/ifcfg-ens33
1

同样的操作，在slave1中操作，配置slave1的网络变成192.168.56.112，配置网络后ping主机地址，然后再ping一下www.sina.com地址，保证互联网访问正常。

2.5 同步时间

首先先把三台虚拟机关机

2.6 Xshell6的安装与使用

Xshell6的作用

可以同时连接多台服务器，将多台服务器连接在一台软件上操作，这样就不用在每台服务器上进行操作，方便远程操作服务器；主要是对服务器进行命令操作，并行可以操作多台虚拟主机

Xshell6安装（基本上都是默认，这里忽略，选择安装的语言记得中文，英语很强请忽略我。）

Xshell6的使用

链接master主机地址，输入账号密码即可访问

Xftp6的作用

可以同时连接多台服务器，将多台服务器连接在一台机器上操作，这样就不用在每台服务器上进行操作，方便远程操作服务器；主要是对服务器进行文件传输操作.（安装步骤省略，网上有很多资源可以下载）使用操作说明

出现桌面文件和master路径文件的话，表示已经成功了。其他的两台机器就不演示操作了。

2.7  关闭防火墙

首先打开并登陆master服务器

使用指令查看防火墙状态，一般都是active（running）激活状态，然后用指令关闭防火墙，关闭完后使用systemctl指令加入开机启动项。

systemctl status firewalld.service
1

systemctl stop firewalld.service
1

systemctl disable firewalld.service
1

2.8 设置主机名

先在master服务器上操作’，输入下面命令

vi /etc/sysconfig/network
1

再次修改主机名字，将hostname中内容删除掉，增加mastert名字操作

vi /etc/hostname
1

按照上述操作方法，将其他的虚拟机更改主机名字，对应的slave0,slave1都修改。修改完记得重启验证一下，主机名字是否更变。

2.9 hosts设置

使用计算机名进行网络访问，需要修改vi /etc/hosts 文件中的主机名与IP地址的对照列表。三台服务器都需要配置一下（master,slave0,slave1）

免密钥登陆配置

首先在master服务器下面生成秘钥

ssh-keygen -t rsa
1

然后按四次回车，出现下面内容

进入根目录文件夹中

cd ~/.ssh
1

ls -l
1

然后输入下面命令把公钥文件发送到自己和其它服务器还有发送自己了。

ssh-copy-id -i id_rsa.pub root@master
1

输入Yes，一直接收

输入root密码

成功后出现下面内容

然后再分别发送给slave0和slave1

验证是否成功

在master服务器输入下面的命令，都不需要输入密码，就说明成功了,注意每执行完一条命令都用exit退出一下再执行下一条。

2.10 安装JDK

首先在master服务器的usr/local目录下新建一个java文件夹，用下面命令就可以完成

mkdir /usr/local/java
1

然后用Xftp连接master服务器，打开usr/local/java这个目录，把jdk-8u162-linux-x64.tar复制进去，

使用指令解压

tar -zxvf jdk-8u162-linux-x64.tar.gz
1

接下来开始配置环境变量，先用cd命令回到总目录

输入下面命令开始配置

增加以下内容，

加载环境变量，使用

然后输入java、javac和java -version验证，如果都出现一大堆代码说明配置成功了，如果其中有一个或多个出现不是内部或外部命令，也不是可运行的程序或批处理文件等类似语句，就说明配置失败了，需要重新配置jdk环境。

这样就安装好master服务器的jdk了，但是还没有安装好slave0和slave1的jdk,我们可以用下面命令把master中的jdk复制到slave0上面

scp -r /usr/local/java root@slave0:/usr/local
1

这时已经把jdk复制到slave0了，但是slave0的环境变量还没有配置，我们同样可以使用下面命令来复制环境变量

scp -r /root/.bash_profile root@slave0:/root
1

在slave0加载环境变量，同样用java,javac,java-version测试环境。

source /root/.bash_profile
1

slave1操作和slave0一致，重复操作，进行java测试。

2.11 Hadoop安装与环境配置

先用下面的命令给opt文件夹中新建一个hapoop文件夹，后期配置hadoop文件

mkdir /opt/hadoop
1

然后把hadoop-2.7.5复制到hadoop文件夹中

使用下面命令进入到hadoop文件夹，进行解压

cd /opt/hadoop
1

tar -zxvf hadoop-2.7.5.tar.gz
1

使用mv指令把hadoop-2.7.5文件夹重命名成hadoop

mv hadoop-2.7.5 hadoop
1

在主服务器master上配置

1.配置hadoop-env.sh

该文件设置的是Hadoop运行时需要的环境变量。JAVA_HOME是必须设置的，即使我们当前的系统设置了JAVA_HOME，它也是不认识的，因为Hadoop即使是在本机上执行，它也是把当前执行的环境当成远程服务器。所以这里设置的目的是确保Hadoop能正确的找到jdk。

在hadoop文件中找到hadoop-env.sh文件进行修改，配置java的路径。

2. 配置core-site.xml

core-site.xm所在的目录和上面的目录一样，所以直接使用下面命令打开该文件即可

cd /opt/hadoop/hadoop/etc/hadoop
1

vi core-site.xml
1

接着把下面命令写入中，注释不用写

<!-- 指定Hadoop所使用的文件系统schema(URL),HDFS的老大(NameNode)的地址 -->
<property>
	<name>fs.defaultFS</name>
	<value>hdfs://master:9000</value>
</property>
<!-- 指定Hadoop运行时产生文件的储存目录，默认是/tmp/hadoop-${user.name} -->
<property>
	<name>hadoop.tmp.dir</name>
	<value>/opt/hadoop/hadoopdata</value>
</property>

1
2
3
4
5
6
7
8
9
10
11

vi hdfs-site.xml
1

3.配置hdfs-site.xml

hdfs-site.xml所在的目录和上面的目录一样，所以直接使用下面命令打开该文件即可

vi hdfs-site.xml
1

接着把下面命令写入中，注释不用写

<!-- 指定HDFS副本的数量 -->
<property>
	<name>dfs.replication</name>
	<value>1</value>
</property>

1
2
3
4
5
6

4.配置yarn-site.xml

yarn-site.xml所在的目录和上面的目录一样，所以直接使用下面命令打开该文件即可

vi yarn-site.xml
1

接着把下面命令写入中，里面自带的注释不用删除

<property>
	<name>yarn.nodemanager.aux-services</name>
	<value>mapreduce_shuffle</value>
</property>
<property>
	<name>yarn.resourcemanager.address</name>
	<value>master:18040</value>
</property>
<property>
	<name>yarn.resourcemanager.scheduler.address</name>
	<value>master:18030</value>
</property>
<property>
	<name>yarn.resourcemanager.resource-tracker.address</name>
	<value>master:18025</value>
</property>
<property>
	<name>yarn.resourcemanager.admin.address</name>
	<value>master:18141</value>
</property>
<property>
	<name>yarn.resourcemanager.webapp.address</name>
	<value>master:18088</value>
</property>


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

5.配置mapred-site.xml

还是在/opt/hadoop/hadoop/etc/hadoop目录下(也就是上个文件所在的目录)，有一个叫 mapred-site.xml.template的文件，把它复制到/opt/hadoop/hadoop/etc/hadoop目录下(也就是mapred-queues.xml.template文件所在的目录)重命名为mapred-site.xml，命令如下

mv mapred-site.xml.template mapred-site.xml
1

编辑文本

vi mapred-site.xml
1

接着把下面命令写入中，注释不用写

<!-- 指定mr运行时框架，这里指定在yarn上，默认是local -->
<property>
	<name>mapreduce.framework.name</name>
	<value>yarn</value>
</property>
1
2
3
4
5

6.配置slaves

slaves 文件给出了 Hadoop 集群的 Slave 节点列表。该文件十分重要，因为启动Hadoop 的时候，系统总是根据当前 slaves 文件中 Slave 节点名称列表启动集群，不在列表中的Slave节点便不会被视为计算节点.

slaves所在的目录和上面的目录一样，所以直接使用下面命令打开该文件即可

cd /opt/hadoop/hadoop/etc/hadoop
1

vi slaves
1

增加以下文字内容，进行配置。

7.配置Hadoop环境变量

先用cd命令回到总目录

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）

//img-blog.csdnimg.cn/b519737d1c5e42708f76c65c504effb9.png)

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
[外链图片转存中…(img-yxDbZBvt-1712839248678)]
[外链图片转存中…(img-bk9xyVPp-1712839248679)]
[外链图片转存中…(img-8qIJ0cJZ-1712839248679)]
[外链图片转存中…(img-Se6UdBcK-1712839248679)]
[外链图片转存中…(img-3dz9fBzP-1712839248680)]

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）
[外链图片转存中…(img-bHvDEEKA-1712839248680)]