ClickHouse性能之巅

赞誉
序1
序2
自序
前言
第一部分 架构篇
· · · · · · (更多)

赞誉
序1
序2
自序
前言
第一部分 架构篇
第1章 数据仓库的核心技术 3
1.1 OLAP和OLTP的本质区别 4
1.1.1 数据三范式 4
1.1.2 规范化的意义 6
1.1.3 规范化的局限 7
1.1.4 数仓建模的本质 7
1.1.5 OLAP和OLTP的底层数据模型 8
1.1.6 维度建模 8
1.2 典型大数据数仓技术及其核心思路 10
1.2.1 Hive 10
1.2.2 HBase 11
1.2.3 Kylin 12
1.2.4 其他数仓 13
1.3 传统数仓的缺陷 13
1.3.1 效率低 13
1.3.2 延迟高 14
1.3.3 成本高 14
1.4 ClickHouse查询性能的优势 15
1.4.1 向量化引擎 15
1.4.2 高效的数据压缩 16
1.4.3 高效的I/O优化 17
1.5 本章小结 18
第2章 ClickHouse简介 19
2.1 ClickHouse的4个标签 19
2.1.1 性能强大 19
2.1.2 单机处理能力强 20
2.1.3 成本低 21
2.1.4 不支持事务 21
2.2 ClickHouse的3个适用场景 22
2.2.1 BI报表的交互式分析 22
2.2.2 互联网日志分析 22
2.2.3 广告营销 23
2.3 本章小结 24
第3章 ClickHouse架构概览 25
3.1 ClickHouse架构简介 26
3.2 ClickHouse的核心抽象 27
3.2.1 列和字段 27
3.2.2 数据类型 28
3.2.3 块 32
3.2.4 表 33
3.3 ClickHouse的运作过程 35
3.3.1 数据插入过程 35
3.3.2 数据查询过程 35
3.3.3 数据更新和数据删除过程 36
3.4 本章小结 37
第4章 MergeTree存储引擎架构 39
4.1 MergeTree存储引擎的三大特点 40
4.2 MergeTree的数据组织 41
4.2.1 块 41
4.2.2 数据堆放方式 41
4.3 MergeTree的文件组织 43
4.3.1 数据文件、元数据文件、索引文件和其他文件 45
4.3.2 分区 47
4.3.3 数据库和表 48
4.4 索引 49
4.4.1 主键索引 49
4.4.2 标记 49
4.5 与事务数据库存储引擎的对比 50
4.6 存储引擎如何影响查询速度 52
4.6.1 预排序 52
4.6.2 列存 52
4.6.3 压缩 53
4.7 MergeTree存储引擎的工作过程 53
4.7.1 数据库、数据表的创建过程 54
4.7.2 数据插入过程 54
4.7.3 分区合并和删除过程 54
4.7.4 数据读取过程 56
4.8 本章小结 59
第5章 ClickHouse计算引擎架构 61
5.1 ClickHouse计算引擎的架构简介与设计思想 61
5.1.1 整体架构 62
5.1.2 SQL解析器 62
5.1.3 解释器 63
5.1.4 执行器 63
5.1.5 设计思想 64
5.2 火山模型 65
5.2.1 火山模型概述 65
5.2.2 火山模型的原理 66
5.2.3 火山模型的优点与缺点 67
5.3 向量化引擎 67
5.3.1 向量化引擎的实现方式 68
5.3.2 ClickHouse中的向量化算子 69
5.3.3 向量化引擎的前提 70
5.4 计算引擎如何影响查询速度 72
5.4.1 ClickHouse查询速度快的前提 72
5.4.2 ClickHouse查询速度快的本质 74
5.5 本章小结 74
第6章 ClickHouse与其他数仓架构的对比 75
6.1 ClickHouse与Hive的对比 75
6.1.1 Hive的数据文件 76
6.1.2 Hive的存储系统 82
6.1.3 Hive计算引擎与ClickHouse计算引擎的差异 84
6.1.4 ClickHouse比Hive查询速度快的原因 85
6.2 ClickHouse与HBase的对比 86
6.2.1 HBase的数据模型 86
6.2.2 HBase的存储系统与ClickHouse的异同 87
6.2.3 HBase的适用场景及ClickHouse不适合的原因 87
6.3 ClickHouse与Kylin的对比 88
6.3.1 Kylin的架构 88
6.3.2 Kylin解决性能问题的思路 88
6.3.3 Kylin方案的缺陷 89
6.3.4 ClickHouse的方案 89
6.4 本章小结 91
第7章 深度思考：决定外在能力的因素 93
7.1 从架构层面分析ClickHouse 93
7.1.1 ClickHouse速度快的前提 93
7.1.2 对ClickHouse的一些误解 94
7.2 结构决定功能 95
7.2.1 方法论 96
7.2.2 意义 97
7.2.3 不要过度设计 98
7.3 从ClickHouse的设计来理解 99
7.3.1 结构决定能力的上限 99
7.3.2 结构决定应用层算法 99
7.4 本章小结 100
第二部分 实战篇
第8章 ClickHouse使用技巧 105
8.1 数据导入、导出技巧 105
8.1.1 外部文件导入、导出技巧 105
8.1.2 灵活使用集成表引擎导入、导出数据 109
8.2 建表技巧 117
8.2.1 表引擎选择技巧 118
8.2.2 分区键选择技巧 120
8.2.3 数据结构选择技巧 120
8.2.4 分区技巧 121
8.3 高级技巧 121
8.3.1 物化视图 121
8.3.2 投影 122
8.3.3 位图 122
8.3.4 变更数据捕获 123
8.4 常见报错及处理方法 123
8.5 本章小结 124
第9章 ClickHouse实现用户画像系统 125
9.1 用户画像概述 125
9.1.1 用户画像系统介绍 125
9.1.2 用户画像系统的需求描述 127
9.1.3 用户画像系统的需求分析 127
9.1.4 用户画像系统的架构 128
9.2 用户画像系统的关键技术实现 129
9.2.1 技术选型 129
9.2.2 分析阶段 130
9.2.3 运营阶段 136
9.3 基于ClickHouse的用户画像系统的优点 137
9.4 本章小结 139
第10章 ClickHouse的存算分离架构 141
10.1 存算分离架构背景 141
10.1.1 相关概述 141
10.1.2 存算分离的典型架构 142
10.1.3 存算分离的意义 143
10.1.4 存算分离的局限 145
10.2 ClickHouse中的存算分离 147
10.2.1 实现方式 147
10.2.2 注意事项 150
10.3 存算分离架构给ClickHouse带来的优势 151
10.4 本章小结 152
第11章 ClickHouse的分布式架构 153
11.1 架构特点及对比 153
11.1.1 ClickHouse分布式架构的优点 154
11.1.2 ClickHouse分布式架构的缺点 155
11.1.3 ClickHouse与Hadoop的分布式架构对比 156
11.2 基本概念 156
11.2.1 集群 157
11.2.2 副本 158
11.2.3 分片 159
11.3 ClickHouse的复制表引擎 160
11.3.1 创建复制表 160
11.3.2 复制表复制 161
11.3.3 复制表查询 161
11.4 ClickHouse分布式表引擎 162
11.4.1 创建分布式表 162
11.4.2 分布式表查询原理 163
11.4.3 分布式表的数据写入方案 165
11.4.4 分布式表中副本的处理方式 165
11.5 本章小结 166
第12章 ClickHouse性能优化 167
12.1 性能优化的原则 167
12.2 数据结构优化 168
12.3 内存优化 171
12.4 磁盘优化 171
12.5 网络优化 173
12.6 CPU优化 173
12.7 查询优化 174
12.8 数据迁移优化 176
12.9 本章小结 177
· · · · · · (收起)