加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

百分点大数据评测报告:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

发布时间:2020-01-24 12:13:59 所属栏目:大数据 来源:至顶网至顶Labs频道
导读:副问题#e# 谈到大数据就会遐想到Hadoop、Spark整个生态的技能栈。各人都知道开源大数据组件种类浩瀚,个中开源OLAP引擎包括Hive、SparkSQL、Presto、HAWQ、ClickHouse、Impala、Kylin等。当前企业对大数据的研究与应用日趋理性,那么,怎样按照营业特点,选

通过比拟测试功效可以发明,在沟通的数据量查询SQL环境下,ClickHouse比拟HAWQ、Presto稀有目级的机能上风。因为我们的营业更多是单表的Ad-Hoc查询和说明,因此本次评测最终回收ClickHouse作为我们的OLAP引擎。 

同时,测试进程中我们也发明一些故意思的征象,如:

(1)  HAWQ对查询都是全表扫描,如相同Select * from where c1=xxx limit 10查询,而Presto则对扫描的功效直接返回。

(2)  HAWQ查询会行使到体系缓存,而Presto对这方面并没有出格的优化。示意出的征象就是,在必然的并发度下,HAWQ反而会浮现出缓存的上风,而Presto机能则泛起线性降落趋势。 

具体见测试进程的具体记录及图形化的直观揭示。

并发1查询机能:

 百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

并发10查询机能:

百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

 

百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

 

 

并发20查询机能:

百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

4.其余扩展测试

Presto单机多Worker:

百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)


我们通过添加单机的Worker数目验证是否进步查询服从,进步单机的查询操作率。 单机增进Presto Worker,陈设多Worker。测试功效:示意为CPU瓶颈,没有结果。如下图,可以发明每个Worker的吞吐也少了一半。 

百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

Presto扩容:
我们通过添加扩容呆板并陈设Worker,验证查询机能影响。
插手新的呆板,陈设Worker。测试功效:示意为机能根基线性增添,受限于数据节点的磁盘IO和收集。 

百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

ClickHouse 横向扩展查询测试:

测试横向扩展对查询机能的影响,每个节点的数据量是沟通的,行使沟通的SQL别离测试单节点、五节点、十节点的查询机能。
按照测试功效可以看出,横向扩展后,节点数和数据量等比增进,查询时刻险些保持稳固。以是对付ClickHouse我们可以基于单节点的数据量和机能,揣度必然场景下整个集群的环境。

测试明细: 

百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

功效图形展示:

 百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

ClickHouse PageCache缓存查询测试:

测试PageCache对查询机能的影响,起首破除全部缓存别离查询四个SQL,然后再一再执行一次,可以发明,PageCache对第二次查询的机能进步是影响庞大的。

ClickHouse充实操作了体系缓存(PageCache),对查询稀有目级的机能晋升浸染。

测试明细:

 百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)

功效图形展示:

 百分点大数据评测陈诉:开源OLAP引擎综评(HAWQ、Presto、ClickHouse)


五、各组件综合说明
通过上述测试功效和说明图表,团结我们查询各组件的开源先容举办综合说明,如下:

(编辑:湖南网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读