频道栏目
首页 > 网络 > 云计算 > 正文

Hive基本原理及环境搭建

2016-05-28 08:59:32         来源:小青年的指令汇  
收藏   我要投稿

今天我主要是在折腾这个Hive,早上看了一下书,最开始有点凌乱,后面慢慢地发现,hive其实挺简单的,以我的理解就是和数据库有关的东西,那这样的话对我来说就容易多啦,因为我对sql语法应该是比较熟悉了,而这个是HQL的,其实很多都差不多。先来看一下Hive的基本介绍:

一、Hive基本原理

hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。 其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析。

Hive将元数据存储在数据库(RDBMS)中,比如MySQL、Derby中。Hive有三种模式连接到数据,其方式是:单用户模式,多用户模式和远程服务模式。(也就是内嵌模式

、本地模式、远程模式)。

1.1 Hive体系结构:

Hive体系结构图:主要分为:用户接口、Thrift服务器、元数据存储、解析器、Hadoop

 

\

 

1.2 Hive数据类型

Hive的存储是建立在Hadoop文件系统之上的,它本身没有专门的数据存储格式,其主要包括四类数据模型:

表(Table)

分区(Partition)

桶(Bucket)

外部表(External Table)

 

\

 

Hive的内置数据类型可以分为两大类:(1)、基础数据类型;(2)、复杂数据类型。其中,基础数据类型包括:TINYINT,SMALLINT,INT,BIGINT,BOOLEAN,FLOAT,DOUBLE,STRING,BINARY,TIMESTAMP,DECIMAL,CHAR,VARCHAR,DATE。

 

\

 

1.3Hive的执行流程要点

操作符(Operator)是Hive的最小处理单位;

每个操作符处理代表HDFS操作或MR作业;

编译器把Hive SQL转换成一组操作符;

Hive通过ExecMapper和ExecReducer来执行MapReduce任务;

执行MapReduce时有两种模式:本地模式和分布式模式;

常见的Hive操作符(部分)如下:

 

\

 

1.4 Hive的HQL操作

hive基本的运行操作其实和sql差不多,例如:

select u.name, o.orderid from order o join user u on o.uid = u.uid;

select dealid, count(distinct uid), count(distinct date) from order group by dealid;

简单Hive表语句:

create table student

(

name string,

sex string,

age int

);

二、Hive基本配置

1、从apache官网的hadoop找到hive,目前最新版本是2.0.1,我下的就是这个,http://hive.apache.org/downloads.html,

2、下载mysql驱动,目前是5.1.38的 ,我已经把这需要的两个整理好一个压缩包了,可以通过以下链接下载:(我后续贴出)

3、分别解压到你需要的目录中,我是放置在/home/admin1/下载/hive-2.0.1中的,把mysql驱动也放到hive的这个lib包中,然后在hive-2.0.1/conf中对以下文件进行配置:

新建一个文件hive-env.sh

把里面的目录改成你的hadoop放置的目录就可以了。

export HIVE_HOME=/home/admin1/下载/hive-2.0.1

export PATH=$PATH:$HIVE_HOME/bin

HADOOP_HOME=/home/admin1/下载/hadoop-2.5.2

export HIVE_CONF_DIR=/home/admin1/下载/hive-2.0.1/conf

export HIVE_AUX_JARS_PATH=/home/admin1/下载/hive-2.0.1/lib

还需要新建一个hive-site.xml:

这里我用的是mysql的账号和密码来配置的,其他的你也可以参照配置。

javax.jdo.option.ConnectionURL

jdbc:mysql://localhost:3306/hive?=createDatabaseIfNotExist=true

JDBC connect string for a JDBCmetastore

javax.jdo.option.ConnectionDriverName

com.mysql.jdbc.Driver

Driver class name for a JDBCmetastore

javax.jdo.option.ConnectionUserName

hive

username to use against metastoredatabase

javax.jdo.option.ConnectionPassword

a

password to use against metastoredatabase

启动:在/home/admin1/下载/hive-2.0.1中执行:

bin/hive

若无法初始化,则:

bin/schematool -dbType mysql -initSchema

在hive2.0以上版本都需要initSchema一下,否则会报错,我也是因为这个问题折腾了好几个小时,最后发现很简单就解决了。

最后说一下的就是在安装mysql的时候,你可以直接用ubuntu里面的uk软件下载就可以了,在里面搜索mysql,然后下载mysql的服务器,客户端和工作平台就可以了,这里不再重复啰嗦了,就是需要在控制台创建一下新用户:

mysql -uroot

create user 'hive' identify by 'hive';

create database hive;

grant all privileges on *.* to 'hive'@'localhost' identified by 'hive';

flush privileges

然后可以通过hive账号进行登陆就可以了,

mysql -u hive -p

然后输入密码hive就成功登陆,把这个登陆信息配置到hive-site.xml中就可以了。

接下来就可以愉快的进行hive的使用了,创建表等。记得要把hadoop的服务打开哦 , sbin/start-all.sh

总结:今天遇到的两个主要问题就是,1:bin/hive后一直报错,最后初始化之后就可以了。2、在linux中的sublim-text无法输入中文,且无法下载gpk解决,无法编译sublime_imfix.c,后来通过在github上面发现已经编译好的库,然后导入,经过一系列复杂的操作最后成功解决了这个问题。找对方法,找对工具。

相关TAG标签 原理 环境
上一篇:Zookeeper的安装配置及基本开发
下一篇:Backbone的使用
相关文章
图文推荐
热门新闻

关于我们 | 联系我们 | 广告服务 | 投资合作 | 版权申明 | 在线帮助 | 网站地图 | 作品发布 | Vip技术培训 | 举报中心

版权所有: 红黑联盟--致力于做实用的IT技术学习网站