Hive优化的方法有哪些
这篇文章主要为大家展示了“Hive优化的方法有哪些”，内容简而易懂，条理清晰，希望能够帮助大家解决疑惑，下面让小编带领大家一起研究并学习一下“Hive优化的方法有哪些”这篇文章吧。
龙山ssl适用于网站、小程序/APP、API接口等需要进行数据传输应用场景，ssl证书未来市场广阔！成为创新互联建站的ssl证书销售渠道，可以享受市场价格4-6折优惠！如果有意向欢迎电话联系或者加微信：028-86922220（备注：SSL证书合作）期待与您的合作！
一、整体架构优化
现在hive的整体框架如下，计算引擎不仅仅支持Map/Reduce，并且还支持Tez、Spark等。根据不同的计算引擎又可以使用不同的资源调度和存储系统。
整体架构优化点：
1、根据不同业务需求进行日期分区，并执行类型动态分区。
相关参数设置：
0.14中默认hive.exec.dynamic.partition=ture
2、为了减少磁盘存储空间以及I/O次数，对数据进行压缩
相关参数设置：
job输出文件按照BLOCK以Gzip方式进行压缩。
1 2 3 |
|
map输出结果也以Gzip进行压缩。
1 2 |
|
对hive输出结果和中间结果进行压缩。
1 2 |
|
3、hive中间表以SequenceFile保存，可以节约序列化和反序列化的时间
相关参数设置：
hive.query.result.fileformat=SequenceFile
4、yarn优化，在此不再展开，后面专门介绍。
二、MR阶段优化
hive操作符有：
执行流程为：
reduce切割算法：
相关参数设置，默认为：
hive.exec.reducers.max=999
hive.exec.reducers.bytes.per.reducer=1G
reduce task num=min{reducers.max,input.size/bytes.per.reducer}，可以根据实际需求来调整reduce的个数。
三、JOB优化
1、本地执行
默认关闭了本地执行模式，小数据可以使用本地执行模式，加快执行速度。
相关参数设置：
hive.exec.mode.local.auto=true
默认本地执行的条件是，hive.exec.mode.local.auto.inputbytes.max=128MB， hive.exec.mode.local.auto.tasks.max=4，reduce task最多1个。 性能测试：
数据量（万） 操作 正常执行时间（秒) 本地执行时间（秒）
170 group by 36 16
80 count 34 6
2、mapjoin
默认mapjoin是打开的， hive.auto.convert.join.noconditionaltask.size=10MB
装载到内存的表必须是通过scan的表（不包括group by等操作），如果join的两个表都满足上面的条件，/*mapjoin*/指定表格不起作用，只会装载小表到内存，否则就会选那个满足条件的scan表。
四、SQL优化
整体的优化策略如下：
去除查询中不需要的column
Where条件判断等在TableScan阶段就进行过滤
利用Partition信息，只读取符合条件的Partition
Map端join，以大表作驱动，小表载入所有mapper内存中
调整Join顺序，确保以大表作为驱动表
对于数据分布不均衡的表Group by时，为避免数据集中到少数的reducer上，分成两个map-reduce阶段。第一个阶段先用Distinct列进行shuffle，然后在reduce端部分聚合，减小数据规模，第二个map-reduce阶段再按group-by列聚合。
在map端用hash进行部分聚合，减小reduce端数据处理规模。
五、平台优化
1、hive on tez
2、spark SQL大趋势
以上是“Hive优化的方法有哪些”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注创新互联行业资讯频道！
分享文章：Hive优化的方法有哪些
地址分享：http://ybzwz.com/article/ggisep.html
