当前位置: 首页 > news >正文

hive4.0.0部署以及与MySQL8.4连接

在开始之前,需要在主机上准备好MySQL数据库,并且已经完成了hdfs和yarn的部署

步骤1:MySQL的配置

以root用户登录mysql后执行以下命令:

grant all privileges on *.* to 'root'@'%' with grant option;
flush privileges;

这样我们就授权root用户远程登录并且密码为你登录mysql所使用的密码。

步骤2:配置hadoop

在hadoop的core-site.xml文件中添加配置:

    <property><name>hadoop.proxyuser.hadoop.hosts</name><value>*</value></property><property><name>hadoop.proxyuser.hadoop.groups</name><value>*</value></property>

步骤3:下载解压Hive

点击链接,寻找要下载的Hive版本,下载压缩包。

上传到主机服务器上(我下载在node1的/export/server/目录下)

解压

tar -zxvf 压缩包 -C 要解压到的路径

如果觉得解压后的目录名字过长也可以用软链接连接到目录(后面我将目录的路径简写为hive)

步骤4:提供MySQL Driver包

下载MySQL驱动包(根据自己的系统选择)

https://dev.mysql.com/downloads/connector/j/

将下载好的驱动jar包,上传到主机上并移动到/hive/lib目录下

步骤5:配置Hive

在hive的conf目录内,有个hive-env.sh.template,将其改名为hive-env.sh,并在其内添加如下配置:

export HADOOP_HOME=/export/server/hadoop
export HIVE_CONF_DIR=/export/server/hive
export HIVE_AUX_JARS_PATH=/export/server/hive/lib

具体路径根据自己的配置进行更改。

在hive的conf目录内,新建hive-site.xml文件,填入以下内容:

<configuration>
<!-- 存储元数据mysql相关配置 -->
<property><name>javax.jdo.option.ConnectionURL</name><value>jdbc:mysql://node1:3306/hive3?createDatabaseIfNotExist=true&amp;useSSL=false&amp;useUnicode=true&amp;characterEncoding=UTF-8&amp;allowPublicKeyRetrieval=true</value>
</property><property><name>javax.jdo.option.ConnectionDriverName</name><value>com.mysql.cj.jdbc.Driver</value>
</property><property><name>javax.jdo.option.ConnectionUserName</name><value>root</value>
</property><property><name>javax.jdo.option.ConnectionPassword</name><value>your_password</value>
</property><!-- H2S运行绑定host -->
<property><name>hive.server2.thrift.bind.host</name><value>node1</value>
</property><!-- 远程模式部署metastore metastore地址 -->
<property><name>hive.metastore.uris</name><value>thrift://node1:9083</value>
</property><!-- 关闭元数据存储授权  --> 
<property><name>hive.metastore.event.db.notification.api.auth</name><value>false</value>
</property>
</configuration>

your_password改为root登录mysql所用的密码。

步骤6:初始化元数据库

转到hive目录执行元数据初始化命令:

bin/schematool -initSchema -dbType mysql -verbose

是否初始化成功的检验方法:

登录mysql,查看数据库,如果有hive3数据库,使用hive3数据库后查看表,如果内部有表则初始化成功。

步骤7:启动Hive(使用Hadoop用户)

  • 在启动前,需要将hdfs和yarn集群启动,并确保hive文件夹所属用户为hadoop。
  • 在hive目录下创建一个hive的日志文件夹,
mkdir logs
  • 启动元数据管理服务(必须启动,否则无法工作)
前台启动:bin/hive --service metastore
后台启动:nohup bin/hive --service metastore >> logs/metastore.log 2>&1 &nohup bin/hive --service hiveserver2 >> logs/hiveserver2.log 2>&1 &
  • 启动客户端

在hive目录下执行

bin/hive

当出现以下输出说明已经成功启动了Hive Beeline客户端

  • 使用命令连接到Hive Metastore
!connect jdbc:hive2://node1:10000/default

username和password参考hive-site.xml文件。

显示数据库:

show databases;

如果有default数据库则启动成功。


http://www.mrgr.cn/news/4583.html

相关文章:

  • 【MySQL】查询进阶
  • zyx青岛实训day 29 8/15 (python脚本使数据库读写分离,mysql主从开机自动同步,python操作数据库,MyCat插件的学习)
  • Java List 转map,分组,排序
  • 【微服务】SpringCloud 1-9章
  • 46.x86游戏实战-DXX封包实现进入地图房间
  • 迪杰斯特拉(Dijkstra)算法(C/C++)
  • 【JS|第25期】探索HTTP POST请求:请求体的演变与应用
  • 理解安全组与防火墙的关系:云安全的双重保障
  • 企业高性能web服务器【Nginx详解】
  • Redis7基础篇(七)
  • 分享一个基于Spark的招聘数据可视化与分析系统Hadoop大数据源码(源码、调试、LW、开题、PPT)
  • 基于STM32和云平台的花卉养护系统设计(微信小程序)(209)
  • 为什么这么多人选择海运系统?它适用于什么场景?
  • 【解压即玩】PC 侠-盗-猎¥车手 5 中文版+通关存档,超高画质,操作流畅,优化很棒
  • 探索用于多类无监督异常检测的状态空间模型
  • C++位运算
  • Qt消息对话框的实现
  • icon文件解析和生成
  • 基于python的汽车数据分析与可视化---附源码99290
  • 干货实用帖 | PARASOFT与JENKINS 插件集成