0%

搭建hive集群

摘要:
hive集群伪分布搭建所用架包为hive-2.3.2

搭建前准备

master节点
因为Centos7开始支持的数据库是Mariadb,所以需求先卸载Mariadb:rpm -qa | grep maria*
卸载数据库:sudo yum -y remove mari*
删除数据库文件:rm -rf /var/lib/mysql/*

添加 Yum 包:wget https://dev.mysql.com/get/mysql80-community-release-el7-1.noarch.rpm
或者 wget http://repo.mysql.com/mysql80-community-release-el7-1.noarch.rpm

1
2
sudo yum update
sudo rpm -ivh mysql80-community-release-el7-1.noarch.rpm

安装:sudo yum -y install mysql-community-server
启动守护进程:sudo systemctl start mysqld
查看状态:sudo systemctl status mysqld
查看版本:mysql -V

先创建一个用户
create user 'hive'@'%' identified by 'hive';
再进行授权
grant all privileges on *.* to 'hive'@'%' with grant option;
刷新权限
flush privileges;

hive安装及配置

master节点
解压:

1
2
3
sudo tar -zxvf /opt/sorftware/apache-hive-2.3.2-bin.tar.gz  -C /opt/modules/
sudo mv ./apache-hive-2.3.2-bin ./hive-2.3.2
sudo chown -R joker /opt/modules/hive-2.3.2/

mysql-connector驱动包上传到hive的lib目录下

添加环境变量:
vi /etc/profile

1
2
3
export HIVE_HOME=/opt/modules/hive-2.3.2
export HIVE_CONF_DIR=$HIVE_HOME/conf
export PATH=$PATH:$HIVE_HOME/bin

source /etc/profile
测试:hive --version

对hive进行配置:

1
cd /opt/modules/hive-2.3.2/conf/
1
cp  hive-default.xml.template   hive-site.xml

编辑hive-site.xml:
vi hive-site.xml

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
<configuration>
<!--mysql驱动-->
<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.cj.jdbc.Driver</value>
</property>
<!--url-->
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://master1:3306/hive?createDatabaseIfNotExist=true&amp;useSSL=false</value>
</property>
<!--mysql用户名-->
<property>
<name>javax.jdo.option.ConnectionUserName</name>
<value>root</value>
</property>
<!--mysql中hive用户密码-->
<property>
<name>javax.jdo.option.ConnectionPassword</name>
<value>root123</value>
</property>
</configuration>

bin目录下对数据库进行初始化并执行hive

1
schematool -dbType mysql -initSchema

必须先启动hadoop集群
hive

启动Hive服务端并查看

1
2
3
bin/hive --service hiveserver2 &
bin/hive --service metastore &
jps

如果出现RunJar即成功

-------------本文结束感谢您的阅读-------------