宜宾网站建设公司

hive增加了哪些功能

本篇内容主要讲解“hive增加了哪些功能”，感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷，实用性强。下面就让小编来带大家学习“hive增加了哪些功能”吧!

我们提供的服务有：成都网站建设、成都网站制作、微信公众号开发、网站优化、网站认证、东胜ssl等。为上1000家企事业单位解决了网站和推广的问题。提供周到的售前咨询和贴心的售后服务，是有科学管理、有技术的东胜网站制作公司

一、配置hive-site.xml

CDH版本先进入Hive配置页
hive增加了哪些功能
选择高级，找到hive-site.xml 的 Hive 客户端高级配置代码段配置项
hive增加了哪些功能
然后点击保存更改，分发配置就可以了。

二、建表

如果要支持delete和update，则必须输出是AcidOutputFormat然后必须分桶。
而且目前只有ORCFileformat支持AcidOutputFormat，不仅如此建表时必须指定参数('transactional' = true)
如

 

  1. USE test;

  2. DROP TABLE IF EXISTS S1_AC_ACTUAL_PAYDETAIL;

  3. CREATE TABLE IF NOT EXISTS S1_AC_ACTUAL_PAYDETAIL

  4. (

  5. INPUTDATE STRING,

  6. SERIALNO STRING,

  7. PAYDATE STRING,

  8. ACTUALPAYDATE STRING,

  9. CITY STRING,

  10. PRODUCTID STRING,

  11. SUBPRODUCTTYPE STRING,

  12. ISP2P STRING,

  13. ISCANCEL STRING,

  14. CDATE STRING,

  15. PAYTYPE STRING,

  16. ASSETSOWNER STRING,

  17. ASSETSOUTDATE STRING,

  18. CPD DOUBLE,

  19. PAYPRINCIPALAMT BIGINT,

  20. PAYINTEAMT BIGINT,

  21. A2 BIGINT,

  22. A7 BIGINT,

  23. A9 BIGINT,

  24. A10 BIGINT,

  25. A11 BIGINT,

  26. A12 BIGINT,

  27. A17 BIGINT,

  28. A18 BIGINT,

  29. PAYAMT BIGINT,

  30. LOANNO STRING,

  31. CREATEDATE STRING,

  32. CUSTOMERID STRING,

  33. etl_in_dt string

  34. )

  35. CLUSTERED BY (SERIALNO) --根据某个字段分桶

  36. INTO 7 BUCKETS --分为多少个桶

  37. ROW FORMAT DELIMITED

  38. FIELDS TERMINATED BY ','

  39. LINES TERMINATED BY '\n'

  40. STORED AS ORC

  41. LOCATION '/user/hive/test/S1_AC_ACTUAL_PAYDETAIL'

  42. TBLPROPERTIES('transactional'='true');--增加额描述信息，比如最后一次修改信息，最后一个修改人。

注：由于cdh自动的在元数据里面创建了COMPACTION_QUEUE表，所以博客中说的那个问题不存在

三、操作

执行

 

  1. update test.S1_AC_ACTUAL_PAYDETAIL set city='023' where SERIALNO = '20688947002';

操作100条数据，平均每条花费2秒多，其中执行花费1秒左右。相对还是能接受的。

 

  1. delete from test.S1_AC_ACTUAL_PAYDETAIL where SERIALNO = '20688947002';

四、总结

  • 1、Hive可以通过修改参数达到修改和删除数据的效果，但是速度远远没有传统关系型数据库快

  • 2、通过ORC的每个task只输出单个文件和自带索引的特性，以及数据的分桶操作，可以将要修改的数据锁定在一个很小的文件块，因此可以做到相对便捷的文件修改操作。因此数据的分桶操作非常重要，通常一些表单信息都会根据具体的表单id进行删除与修改，因此推荐使用表单ID作为分桶字段。

  • 3、频繁的update和delete操作已经违背了hive的初衷。不到万不得已的情况，还是使用增量添加的方式最好。

到此，相信大家对“hive增加了哪些功能”有了更深的了解，不妨来实际操作一番吧！这里是创新互联网站，更多相关内容可以进入相关频道进行查询，关注我们，继续学习！


新闻标题：hive增加了哪些功能
标题网址：http://ybzwz.com/article/pghcgp.html

其他资讯