赞
踩
hive是没有json的数据类型的,所以如果要生成json格式的话,我尝试了有3中方法呈现出来
1.concat 2.collect_set+map 3.udf
首先说1.concat 可以通过
这种数据类型是string,且可以通过 get_json_object() 进行解析,验证数据可以通过get_json_object(json, '$') IS NULL 来实现。缺点就是性能一般。插入空值数据的话只需要insert into values(null)
第二个collect_set/array+map ,如果通过这个数据格式去合json的话,它的的数据类型就不能是string(因为数组不支持强转str类型 ),就是你合了以后 不能通过get_json_object,也不能插入string类型的字段中,只能放在array<map<string,string>>里,目前验证数据的话我通过size(json)>0 来验证条数。我能想到优点就是效率会快点。如果要通过insert into插入数据比较麻烦,需要insert into values (array(map(null,null),map(null,null)) 格式需要严格按照 array(map(),map()),不然会报错
第三个就是udf。啊这我不太感觉更慢点。还得敲代码(当然我比较菜)
对我来说使用场景如果是提供给外部es,kafka这些的话我就用第二个,效率会快了那么一点
如果需要在hive上处理数据的情况下,我就使用第一种。第三种目前在学习中。小小见解,欢迎指正
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。