当前位置:   article > 正文

Hive中的行列转换:揭秘数据重塑的魔法(2)_hue里行列转置

hue里行列转置


前言

数据分析和处理中,数据的组织和展示方式至关重要。有时候,为了更直观地展示数据或更好地进行某些计算,我们需要将数据从行格式转换为列格式,即进行行转列的操作。


一、行转列是什么?

在Hive中,行转列是一种常见的操作,它能够将多行数据中的某些值聚合到一起,形成单个值,从而将数据从宽格式变为长格式。

进行行转列操作,可以帮助我们更深入地挖掘数据的内在关系,更好地理解数据的分布和特征。

二、行转列操作

在Hive中,行转列的操作可以通过使用特定的函数和操作来实现。

使用collect_list函数可以将多行数据中的某些值聚合到一个列中,形成一个长格式的列。

1.铺垫

假设我们有一个名为sales的表,包含以下数据

我们想要将产品相同的行合并,并收集它们的销售量,形成一个新的表。可以使用collect_list()函数来实现这个目标。下面是具体的操作步骤:

代码如下(示例):

  1. SELECT product, collect_list(amount) as amounts
  2. FROM sales
  3. GROUP BY product;

  1. 使用GROUP BY子句对产品进行分组。
  2. 使用collect_list()函数将每个产品的销售量聚合到一个列表中。
  3. 使用SELECT子句选择产品ID和销售量列表作为输出列。

执行上述查询后,将得到以下结果:

 

2.进行转换

有数据如下:

  1. col1 col2 col3
  2. a b 1
  3. a b 2
  4. a b 3
  5. c d 4
  6. c d 5
  7. c d 6

我们想要的格式:

  1. col1 col2 col3
  2. a b 1-2-3
  3. c d 4-5-6

 代码实现:

  1. select
  2. col1,col2,
  3. concat_ws('-',collect_list(cast(col3 as string))) as col3
  4. from col
  5. group by
  6. col1,col2;

代码解释:

  1. cast(col3 as string): -- 把 col3 列的数据, 转成 string类型, 就能通过 concat_ws()拼接了.
  2. collect_list(cast(col3 as string)): -- 根据分组条件, 采集每组所有的信息, 有序, 可重复.
  3. oncat_ws('-', collect_list(cast(col3 as string))): -- 用'-'作为连接符, 把上述采集到的数据, 拼接到一起.


总结

今天的内容也是非常简单的,但也有分量,掌握行转列技术有助于更好地理解和处理数据,提高数据处理和分析的效率。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/凡人多烦事01/article/detail/433300
推荐阅读
相关标签
  

闽ICP备14008679号