OLAP引擎调研 —— OLAP引擎性能对比分析_olap对更新效率有多大影响

涉及到的OLAP：

这里主要是查询网上的一些资料，总结整理，调研涉及的OLAP引擎主要有Kylin、Impala、Kudu、Presto、Druid、Clickhouse、Doris、TiDB、Hawq、Hive、SparkSql、SnappyData、ElasticSearch、GreenPlum等。

选型思考的方向：

一般思考的方向，首先是开源，这几种引擎都是基本上都是开源引擎，所以这个我们就不考虑这个方向，这里主要是从响应时间、并发、数据量、SQL支持、离线查询、实时查询、去重、明细查询、模型、BI集成、WEB GUI、REST API、社区活跃度、存储、成本、易用性、监控成本方面做了对比

OLAP大混战对比分析：

注: share-nothing：每一个cpu都有私有内存区域和私有磁盘空间，而且2个cpu不能访问相同磁盘空间，cpu之间的通讯通过网络连接。

我们就现将大家比较常用说一下就是presto、druid、sparkSQL、kylin这几个，其实他们可以分为三类。其中presto和spark sql都是解决分布式查询问题，提供SQL查询能力，但数据加载不一定能保证实时。Druid是保证数据实时写入，但查询上不支持SQL，或者说目前只支持部分SQL，我个人觉得适合用于工业大数据，比如一堆传感器实时写数据的场景。Kylin是MOLAP，就是将数据先进行预聚合，然后把多维查询变成了key-value查询。

• 从成熟度来讲：kylin>spark sql>Druid>presto
• 从超大数据的查询效率来看：Druid>kylin>presto>spark sql
• 从支持的数据源种类来讲：presto>spark sql>kylin>Druid

总结：

下面我们介绍这些系统

• SQL on Hadoop 系统：无法支持更新，性能也较差。
• TiDB：
  TiDB 虽然当初号称可以支撑 100%的 TP 和 80%的 AP，但是架构设计主要是面向 TP 场景，缺少针对 AP场景专门的优化，所以 OLAP 查询性能较差，TiDB 团队目前正在研发专门的 OLAP 产品：TiFlash，TiFlash 具有以下特点：列存，向量化执行，MPP，而这些特点 Doris 也都有。
• SnappyData：
  SnappyData 是基于 Spark + GemFire 实现的内存数据库，存储引擎，全内存、行列混合存储且完全不需预处理，支持SQL与Spark SQL。SnappyData是个兼顾MPP的特点且colocate特性使得数据本地化，支持join、列表的update以及窗口函数等任意的adhoc查询，
  主要的优点： 是性能高，列存压缩+全内存，数据状态共享，秒级查询、实时性强，支持kafka的stream table以及实时导入、处理方式简单，无需预处理，保存明细数据，数据本地存储、灵活性高，是个sql数据库，支持任意字段的查询、update以及窗口函数和复杂的adhoc查询、易用性强，支持标准SQL和Spark SQL，精准去重，支持各种分许函数。
  缺点： 是机器成本较高，此外 SnappyData 的计算是基于 JVM 的，会有 GC 问题，影响查询稳定性，维护成本高。
  主要使用场景：SnappyData适合那种数据规模中等(PB以下)，需求变化较多，实时性要求较高、响应时间较短且复杂的窗口函数类查询；同时适合查询明细数据以及探索式的adhoc查询如果数据规模不大，且希望找到一种简单易用且实时性要求高的多维OLAP引擎，最重要的是可供分析人员使用的SQL的引擎，那么SnappyData比较适合。前提是需要在成本与效率之间做个平衡，SQL固然能提高开发效率，但内存较大的服务器成本也确实相对较高。
• ClickHouse：
  Clickhouse 是一款单机性能十分彪悍的 OLAP 系统，ClickHouse 作为目前所有开源MPP计算框架中计算速度最快的，它在做多列的表，同时行数很多的表的查询时，性能是很让人兴奋的，但是在做多表的join时，它的性能是不如单宽表查询的。
  性能测试结果表明ClickHouse在单表查询方面表现出很大的性能优势，但是在多表查询中性能却比较差，不如presto和impala、hawq的效果好，同时当集群加减节点后，系统不能自动感知集群拓扑变化，也不能自动 balance数据，导致运维成本很高，此外 Clickhouse也不支持标准 SQL，我们用户接入的成本也很高。另外ClickHouse 可以与 Superset对接展示，对clickhouse的监控可以使用Grafana监控。
• Doris：
  对我们用户来说，Doris的优点是功能强大，易用性好。 功能强大指可以满足我们用户的需求，易用性好主要指 兼容 Mysql 协议和语法，以及 Online Schema Change。 兼容 Mysql 协议和语法让用户的学习成本和开发成本很低， 因为在业务快速发展和频繁迭代的情况下，Schema变更会是一个高频的操作。对我们来说，Doris 的优点是易运维，易扩展和高可用、易运维指 Doris 无外部系统依赖，部署和配置都很简单。易扩展指 Doris 可以一键加减节点，并自动均衡数据。高可用值 Doris 的 FE 和 BE 都可以容忍少数节点挂掉。
• SparkSQL：
  SparkSQL是Hadoop中另一个著名的SQL引擎，它以Spark作为底层计算框架，Spark使用RDD作为分布式程序的工作集合，它提供一种分布式共享内存的受限形式。在分布式共享内存系统中，应用可以向全局地址空间的任意位置进行读写操作，而RDD是只读的，对其只能进行创建、转化和求值等操作。这种内存操作大大提高了计算速度。SparkSql的性能相对其他的组件要差一些，多表单表查询性能都不突出。
• Impala：
  官方宣传其计算速度是一大优点，在实际测试中我们也发现它的多表查询性能和presto差不多，但是单表查询方面却不如presto好。而且Impala有很多不支持的地方，例如：不支持update、delete操作，不支持Date数据类型，不支持ORC文件格式等等，所以我们查询时采用parquet格式进行查询，而且Impala在查询时占用的内存很大。
• Presto：
  综合性能比起来要比其余组件好一些，无论是查询性能还是支持的数据源和数据格式方面都要突出一些，在单表查询时性能靠前，多表查询方面性能也很突出。由于Presto是完全基于内存的并行计算，所以Presto在查询时占用的内存也不少，但是发现要比Impala少一些，比如多表join需要很大的内存，Impala占用的内存比Presto要多。
• HAWQ ：
  吸收了先进的基于成本的 SQL查询优化器，自动生成执行计划，可优化使用hadoop集群资源。HAWQ 采用 Dynamic pipelining 技术解决这一关键问题。Dynamic pipelining 是一种并行数据流框架，利用线性可扩展加速Hadoop查询，数据直接存储在HDFS上，并且其SQL查询优化器已经为基于HDFS的文件系统性能特征进行过细致的优化。但是我们发现HAWQ在多表查询时比Presto、Impala差一些；而且不适合单表的复杂聚合操作，单表测试性能方面要比其余四种组件差很多，hawq环境搭建也遇到了诸多问题。
• GreenPlum：
  作为关系型数据库产品，它的特点主要就是查询速度快，数据装载速度快，批量DML处理快。而且性能可以随着硬件的添加，呈线性增加，拥有非常良好的可扩展性。因此，它主要适用于面向分析的应用。比如构建企业级ODS/EDW，或者数据集市等，GREENPLUM都是不错的选择。
• ElasticSearch：
  ES是典型的搜索引擎类的架构系统，在入库时将数据转换为倒排索引，采用Scatter-Gather计算模型提高查询性能。 对于搜索类的查询效果较好，
  缺点 但当数据量较大时，对于Scan类和聚合类为主的查询性能较低，
  主要优点: 是性能较高，支持倒排索引和各种过滤后的聚合查询、实时性强，在文档上建立完索引后，立刻可以查询、处理方式简单，无需预处理，
  主要缺点 是支持的数据规模较小，高并发不理想并且灵活性差，不支持复杂的adhoc查询，在易用性方面也差，不支持SQL；DSL成本高，且不能精准去重，
  主要适用场景：ES适合那种全文检索，且数据规模较少时过滤条件很多的聚合查询，并发度也不大的场景。
• Druid :
  是一个实时处理时序数据的OLAP数据库，因为它的索引按照时间分片，查询的时候也是按照时间线去路由索引。
• Kylin：
  核心是Cube，Cube是一种预计算技术，基本思路是预先对数据作多维索引，查询时只扫描索引指向的结果而不访问原始数据从而提速。
• Kudu：
  Kudu的定位不是in-memory database。因为它希望HDFS/Parquet这种存储，因此大量的数据都是存储在磁盘上。如果我们想要拿它代替HDFS/Parquet + HBase，那么超大数据集的查询性能就至关重要，这也是Kudu的最初目的。然而，官方没有给出这方面的相关数据。由于条件限制，网易暂时未能完成该测试。Kudu本质上是将性能的优化，寄托在以列式存储为核心的基础上，希望通过提高存储效率，加快字段投影过滤效率，降低查询时CPU开销等来提升性能。而其他绝大多数设计，都是为了解决在列式存储的基础上支持随机读写这样一个目的而存在的。
• Flink
  此外我还对flink进行了调研（调研时间是2020年2月）发现，flink核心是个流式的计算引擎，通过流来模拟批处理，flink sql还处于早期开发阶段，未来社区计划通过提供基于REST的SQL客户端，目前sql客户端不能直接访问hive，通过YAML file文件定义外部数据源，可以连接文件系统和kafka。