大数据:Hive3.x安装部署和配置

news2024/11/16 15:33:19

文章目录

  • Hive 简介
  • 一,Hive 下载和安装
    • 1)下载hive
    • 2)安装hive
  • 二,Hive 部署
    • 1)添加hive-site.xml配置
    • 2)上传mysql jdbc驱动到hive安装包lib下
    • 3)初始化元数据库
    • 4)启动hive
    • 5)beeline客户端连接


Hive 简介

hive是基于Hadoop的一个数据仓库工具,用来进行数据提取、转化、加载,这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。hive数据仓库工具能将结构化的数据文件映射为一张数据库表,并提供SQL查询功能,能将SQL语句转变成MapReduce任务来执行。
在这里插入图片描述

Hive的优点是学习成本低,可以通过类似SQL语句实现快速MapReduce统计,使MapReduce变得更加简单,而不必开发专门的MapReduce应用程序。hive十分适合对数据仓库进行统计分析。

一,Hive 下载和安装

1)下载hive

1.登录apache官网下载 apache-hive-3.1.3-bin.tar.gz,单击 Download 下的 “Distribution”
在这里插入图片描述

2.下拉找到hive,然后单击hive
在这里插入图片描述
3.然后单击 hive-3.1.3/
在这里插入图片描述

4.单击 apache-hive-3.1.3-bin.tar.gz,开始下载
在这里插入图片描述

2)安装hive

1.解压hive到/opt目录下
命令:tar -zxvf apache-hive-3.1.3-bin.tar.gz -C /opt

2.改名文件夹
命令:mv apache-hive-3.1.3-bin hive

二,Hive 部署

1.进入hive配置目录
命令:cd /opt/hive/conf

2.解决Hive与Hadoop之间guava版本差异
命令:rm -f /opt/hive/lib/guava-19.0.jar
命令:cp /opt/hadoop-3.3.4/share/hadoop/common/lib/guava-27.0-jre.jar /opt/hive/lib

1)添加hive-site.xml配置

1.进入conf目录,命令:cd /opt/hive/conf

2.进入hive-site.xml配置界面,命令:vi /opt/hive/conf/hive-site.xml

3.添加以下内容:

<configuration>
    # 配置MySQL的连接地址、连接数据库
    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://localhost:3306/hivedb?createDatabaseIFNotExist=true</value>
    </property>
    # 配置MySQL的驱动类
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.jdbc.Driver</value>
    </property>
    # 配置登录MySQL的用户名
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>
    # 配置登录MySQL的密码
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>p@ssw0rd</value>
    </property>
</configuration>

2)上传mysql jdbc驱动到hive安装包lib下

命令:cp mysql-connector-java-5.1.49.jar /opt/hive/lib

3)初始化元数据库

命令:/opt/hive/bin/schematool -initSchema -dbType mysql -verbos

4)启动hive

1.启动hive metastore服务

#前台启动,关闭ctrl+c
/opt/hive/bin/hive --service metastore

#前台启动开启debug日志
/opt/hive/bin/hive --service metastore --hiveconf hive.root.logger=DEBUG,console  

#后台启动 进程挂起  关闭需要直接杀进程(先jps查看进程号,再kill -9)
nohup /opt/hive/bin/hive --service metastore &

2.启动hiveserver2服务,命令:/opt/hive/bin/hive --service hiveserver2 &

5)beeline客户端连接

1.默认配置会报错,需要修改hadoop的配置文件core-site.xml命令:vi /opt/hadoop-3.3.4/etc/hadoop/core-site.xml

增加属性如下:

<property>
    <name>hadoop.proxyuser.root.hosts</name>
    <value>*</value>
</property>
<property>
    <name>hadoop.proxyuser.root.groups</name>
    <value>*</value>
</property>

注:重启hadoop后,再进行连接

2.启动beeline,输入命令:/opt/hive/bin/beeline
3.连接hive,输入命令:!connect jdbc:hive2://master:10000

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/83182.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

数字时代,你还不了解数据仓库吗?

事实上&#xff0c;很多人在看到数据仓库的第一眼&#xff0c;就把数据仓库当成了数据库。当然这也很正常&#xff0c;毕竟从名字来看这两者确实区别不大&#xff0c;真正区分两者的是定位、作用等更深一层的东西。今天我们就来详细了解一下数据仓库&#xff0c;从概念、特点、…

【网络】一文带你了解计算机网络基础

我们在学校中&#xff0c;相信大家都学过计算机四门必修课之一的计算机网络&#xff0c;那么今天简单的总结一下计算机网络的基础和原理&#xff0c;有需要朋友&#xff0c;可以点赞收藏。 一文带你了解计算机网络基础1、 网络 7 层架构2、 TCP/IP原理2.1 网络访问层(Network A…

MongoDB的入门及使用

文章目录1、MongoDB组成2、基本指令3、安装Studio 3T4、操作语句db操作collection操作document操作document 查询5、开发使用1、MongoDB组成 MongoDB中有三个概念需要大家了解&#xff1a;数据库、集合、文档 数据库database&#xff1a; 数据库是一个仓库&#xff0c;在仓库中…

【Docker】安装容器(Tomcat/MySQL/Redis)

文章目录Docker安装镜像容器安装 Tomcat安装 MySQL安装 MySQL实战版安装 RedisDocker安装镜像容器 步骤 搜索镜像 拉取镜像 查看镜像 启动镜像 - 服务端口映射 停止容器 移除容器 安装 Tomcat 1、DockerHub上查找Tomcat镜像 docker search tomcat 2、从DockerHub拉取Tomcat镜…

volatile synchronized Lock

参考博客&#xff1a;https://www.cnblogs.com/cg-ww/p/14540450.html https://zhuanlan.zhihu.com/p/563597528?utm_id0 synchronized修饰变量&#xff0c;https://blog.csdn.net/dlf123321/article/details/53515756 详解synchronized关键字&#xff0c;https://zhuanlan.zh…

一文回顾Aleo到底有多卷

年底的Aleo是区块链行业的一场大事&#xff0c;由于融资超过两亿美元这样的光环围绕&#xff0c;Aleo出道即备受关注&#xff0c;网上不少教程也是满天飞&#xff0c;甚至在激励测试开始之前&#xff0c;就已经非常卷了&#xff0c;而大家都在认为激励测试在两三周之后开始&…

java swing(GUI) mysql实现的酒店管理系统源码文档教程

今天给大家演示一下由我修订开发的一款由Java swing mysql实现的酒店管理系统&#xff0c;以前是sqlserver版本的&#xff0c;我修改了驱动&#xff0c;做了整体升级&#xff0c;改成了mysql版本的&#xff0c;系统功能非常完善&#xff0c;实现了酒店宾馆日常的所有操作功能&a…

28-Vue之ECharts-折线图

ECharts-折线图前言折线图特点折线图实现步骤折线图常见效果标记线条控制填充风格紧挨边缘缩放, 脱离0值比例堆叠图前言 本篇来学习下折线图的实现 折线图特点 折线图更多的使用来呈现数据随时间的变化趋势 折线图实现步骤 ECharts 最基本的代码结构准备x轴的数据准备 y 轴…

高级网络应用复习——三层和生成树实验 加 命令

作者简介&#xff1a;一名在校云计算网络运维学生、每天分享网络运维的学习经验、和学习笔记。 座右铭&#xff1a;低头赶路&#xff0c;敬事如仪 个人主页&#xff1a;网络豆的主页​​​​​​ 目录 前言 一.实验 1. 实验要求 2.实验命令 三层配置 和三层交换机连接…

双十二有哪些高性价比的电容笔?十大电容笔知名品牌

任何东西都有它独特的意义、存在和作用。随着ipad的影响力越来越大&#xff0c;ipad的用户数量也越来越多&#xff0c;所以要提高ipad的性能&#xff0c;就需要一款合适的电容笔。那么&#xff0c;电容笔该选择哪个品牌&#xff1f;我将向大家推荐几款性价比高的电容笔&#xf…

PPa-HA/NH2/NHS/MAL焦脱镁叶绿酸-a修饰叶酸/氨基/活性酯/马来酰亚胺的反应

小编下面给大家分享的科研内容是类PPa-HA/NH2/NHS/MAL焦脱镁叶绿酸-a修饰叶酸/氨基/活性酯/马来酰亚胺的反应&#xff0c;和小编一起来看看&#xff01; PPa-HA焦脱镁叶绿酸-a修饰叶酸的反应&#xff1a; 以脱镁叶绿酸-a甲酯为起始原料,在二氯甲烷中于不同温度下与N-溴代丁二酰…

ChatGPT面试阿里P6测试开发岗能过吗?

最近ChatGPT爆火&#xff0c;ChatGPT能干什么呢&#xff1f;想必已经看过很多文章了&#xff0c;例如ChatGPT通过美国高考、ChatGPT开发游戏、调试代码、写文章等等。 哈哈&#xff0c;作为一个软件测试博主&#xff0c;我怎么可能不出来搞点事情呢&#xff1f;突发奇想&#…

SpringBoot集成Swagger3接口文档及添加Authorization授权

swagger可以为前端提供接口文档及接口测试功能&#xff0c;后端集成起来很方便&#xff0c;对代码也没有入侵&#xff0c;全注解完成&#xff0c;非常好用。 一、集成基础功能 第一步、添加依赖 <!-- swagger3 --><dependency><groupId>io.springfox</g…

28845-97-8,Ac-K-DAla-DAla-OH

Ac-Lys-D-Ala-D-Ala was tested as substrate in a substrate specificity study of the Streptomyces albus DD-carboxypeptidase. 以Ac-Lys-D-Ala-D-Ala为底物&#xff0c;对albus链霉菌dd -羧肽酶进行底物特异性研究。 编号: 172467中文名称: 三肽D丙氨酸羧肽酶底物CAS号: 2…

块交织器5×5 verilog设计及仿真实现

设计题目要求: 本设计基于verilog语言实现,在quartus II下仿真实现: 仿真如下: 全部代码如下: library ieee; use ieee.std_logic_arith.all; use ieee.std_logic_1164.all; use ieee.std_logic_unsigned.all; entity decoder is --实体说明 port(datain,clk,clr:IN…

汽车轻量化 | 某SUV车型白车身的轻量化分析案例

作者 | 王山 仿真秀科普作者 导读&#xff1a;轻量化是当今各整车厂在产品开发中无法回避的问题。当考虑到成本与工艺方面时&#xff0c;更是不容易解决的问题。对于高端车型&#xff0c;其较高的设计与生产成本允许其采用先进的轻量化设计与生产工艺&#xff0c;如碳纤维复合…

函数:先序输出叶结点

问题引入 【问题描述】按照先序遍历的顺序输出给定二叉树的叶结点。 【输入形式】以字符形式输入二叉树的结点序列 输入的字符序列为&#xff1a;ABC##DE#G##F### 【输出形式】输出二叉树中叶子结点的先序序列 【样例输入】 ABC##DE#G##F### 【样例输出】 CGF 【输出形式】输出…

分布式操作系统 - 8.分布式容错管理

文章目录1.容错性概述1.1 基本概念1.2 失效&#xff08;失败&#xff09;类型1.3 失效&#xff08;失败&#xff09;模型&#xff08;halting failure&#xff09;1.4 基于冗余的失效屏蔽技术&#xff08;1&#xff09;冗余类型&#xff08;2&#xff09;三模冗余方法&#xff…

java计算机毕业设计ssm影院售票系统6fg71(附源码、数据库)

java计算机毕业设计ssm影院售票系统6fg71&#xff08;附源码、数据库&#xff09; 项目运行 环境配置&#xff1a; Jdk1.8 Tomcat8.5 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。…

国外Essay写作实用型技巧怎么学习?

在国外大学的学习期间&#xff0c;想必留学生对Essay是非常熟悉的&#xff0c;因为这是我们无法逃避的作业类型之一。当然&#xff0c;印象最深刻的还是大家刚开始写作Essay的时候&#xff0c;那时候真的是苦不堪言。下面就给大家分享一些Essay写作的实用型技巧&#xff0c;希望…