大数据系统开发综合实验（二）Hive_MySQL_Sqoop配置_大数据开发实践 sqoop + hive(1)_hive搭建中mysql的安装配置

目录

一、MySql安装配置

1.1卸载系统中的Mariadb

1.2上传并解压rpm的压缩包

1.3安装Mysql

2.1启动mysql服务

2.2修改mysql密码

2.3修改MySQL默认编码

2.4用户远程登录配置

二、Hive安装配置

1.上传解压hive安装包

2.配置hive-env.sh文件

3.配置MySQL驱动包

#注意，这里要保证三台虚拟机均已启动！！！

三、Sqoop安装配置

1. 上传Sqoop，并解压

2. 重命名文件夹名

3. 进入目录，配置Sqoop

4. 配置系统环境变量

5. 连接Mysql，验证Sqoop安装结果

#注意，该步骤下hadoop必须启动

---

本文内容在Hadoop01中操作，不对Hadoop02,Hadoop03操作！！！

一、MySql安装配置

1.1卸载系统中的Mariadb

yum remove mysql-libs
1

1.2上传并解压rpm的压缩包

cd /export/software

mkdir mysql_rpm

tar -xvf mysql-5.7.25-1.el7.x86_64.rpm-bundle.tar -C /export/software/mysql_rpm/
1
2
3
4
5

1.3安装Mysql

注意：因逐层建存在依赖，安装顺序不要随意变

cd mysql_rpm

rpm -ivh mysql-community-common-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-libs-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-libs-compat-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-client-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-server-5.7.25-1.el7.x86_64.rpm

rpm -ivh mysql-community-devel-5.7.25-1.el7.x86_64.rpm
1
2
3
4
5
6
7
8
9
10
11
12
13

删除安装包后，查看是否安装成功

cd /export/software

rm -rf mysql_rpm/* && rpm -qa|grep -i mysql
1
2
3

2.1启动mysql服务

#1.临时启动mysql服务

systemctl start mysqld
1

#2.开机启动mysql服务

systemctl enable mysqld
1

#3.查看MySQL的启动状态

systemctl status mysqld
1

#4.查看mysql进程是否正常开启

ps -le | grep mysqld

netstat -ntlp | grep mysqld
1
2
3

2.2修改mysql密码

mysql安装完成之后，在/var/log/mysqld.log文件中给root生成了一个默认密码。通过以下命令找到密码，并复制：

grep 'temporary password' /var/log/mysqld.log
1

修改密码策略

生产环境为了安全考虑，不要改密码策略！！！

实验环境为了方便记mysql密码，可选择下面的方案：

vim /etc/my.cnf
1

在配置文件中添加下面的内容：

validate_password=off
1

重新启动mysql服务使配置生效：

systemctl restart mysqld
1

#登陆mysql

mysql -u root -p
1

输入刚才复制的密码，登陆成功

修改root用户密码为:123456

set password for 'root'@'localhost'=password('123456');
1

MySQL默认配置文件路径：

配置文件： /etc/my.cnf

日志文件： /var/log//var/log/mysqld.log

服务启动脚本： /usr/lib/systemd/system/mysqld.service

socket文件： /var/run/mysqld/mysqld.pid

2.3修改MySQL默认编码

编辑 配置文件

vim /etc/my.cnf
1

添加如下配置：

skip_ssl

character_set_server=utf8

init_connect='SET NAMES utf8'
1
2
3
4
5

重启MySQL服务

systemctl restart mysqld
1

登陆mysql

mysql -uroot -p123456
1

查看MySQL默认编码确认是否修改成功：

show variables like 'char%';
1

查看排序规则

show variables like 'collation%';
1

2.4用户远程登录配置

mysql默认只允许root帐户在本地登录，想要远程连接mysql，必须开启root用户允许远程连接，或者添加一个允许远程连接的帐户。

开启root用户远程连接（任意IP都可以访问）

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION;
FLUSH PRIVILEGES;
1
2

二、Hive安装配置

1.上传解压hive安装包

cd /export/software

tar -zxvf /export/software/apache-hive-1.2.1-bin.tar.gz -C /export/servers/
1
2
3

2.配置hive-env.sh文件

#打开配置文件目录，复制文件

cd /export/servers/apache-hive-1.2.1-bin/conf

cp hive-env.sh.template hive-env.sh
1
2
3

打开配置文件

vim hive-env.sh
1

添加Hadoop环境变量

export HADOOP_HOME=/export/servers/hadoop-2.7.4
1

#修改hive-site.xml配置文件

vim hive-site.xml
1

#加入一下信息

<configuration>

    <property>

    <name>javax.jdo.option.ConnectionURL</name>

        <value>jdbc:mysql://localhost:3306/hive?createDatabaseIfNotExist=true</value>

        <description>Mysql连接协议</description>

    </property>

    <property>

        <name>javax.jdo.option.ConnectionDriverName</name>

        <value>com.mysql.jdbc.Driver</value>

        <description>JDBC连接驱动</description>

    </property>

    <property>

        <name>javax.jdo.option.ConnectionUserName</name>

        <value>root</value>

        <description>用户名</description>

    </property>

    <property>

        <name>javax.jdo.option.ConnectionPassword</name>

        <value>123456</value>

        <description>密码</description>

    </property>

</configuration>
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43

3.配置MySQL驱动包

#上传MySQL连接驱动包mysql-connector-java-5.1.32.jar到/export/software

cp /export/software/mysql-connector-java-5.1.32.jar /export/servers/apache-hive-1.2.1-bin/lib/
1

4.配置系统变量，为了便于启动hive

vi /etc/profile
1

#加入以下内容

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）

收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。**
[外链图片转存中…(img-f2egEHAD-1712891712049)]
[外链图片转存中…(img-bjra0Pls-1712891712049)]
[外链图片转存中…(img-Zw4wZZkA-1712891712050)]
[外链图片转存中…(img-qm05GEhM-1712891712050)]
[外链图片转存中…(img-RVdkw1ys-1712891712050)]

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）
[外链图片转存中…(img-AD52UUea-1712891712050)]