作者:
[美] Holden Karau
/
[美] Andy Konwinski
/
[美] Patrick Wendell
/
[加] Matei Zaharia
出版社: 人民邮电出版社
出品方: 图灵教育
原作名: Learning Spark: Lightning-Fast Big Data Analysis
译者: 王道远
出版年: 2015-10
页数: 232
定价: 59.00元
丛书: 图灵程序设计丛书
ISBN: 9787115403094
出版社: 人民邮电出版社
出品方: 图灵教育
原作名: Learning Spark: Lightning-Fast Big Data Analysis
译者: 王道远
出版年: 2015-10
页数: 232
定价: 59.00元
丛书: 图灵程序设计丛书
ISBN: 9787115403094
作者简介 · · · · · ·
Holden Karau是Databricks的软件开发工程师,活跃于开源社区。她还著有《Spark快速数据处理》。
Andy Konwinski是Databricks联合创始人,Apache Spark项目技术专家,还是Apache Mesos项目的联合发起人。
Patrick Wendell是Databricks联合创始人,也是Apache Spark项目技术专家。他还负责维护Spark核心引擎的几个子系统。
Matei Zaharia是Databricks的CTO,同时也是Apache Spark项目发起人以及Apache基金会副主席。
目录 · · · · · ·
目录
推荐序 xi
译者序 xiv
序 xvi
前言 xvii
第1章 Spark数据分析导论 1
1.1 Spark是什么 1
1.2 一个大一统的软件栈 2
1.2.1 Spark Core 2
1.2.2 Spark SQL 3
1.2.3 Spark Streaming 3
1.2.4 MLlib 3
1.2.5 GraphX 3
1.2.6 集群管理器 4
1.3 Spark的用户和用途 4
1.3.1 数据科学任务 4
1.3.2 数据处理应用 5
1.4 Spark简史 5
1.5 Spark的版本和发布 6
1.6 Spark的存储层次 6
第2章 Spark下载与入门 7
2.1 下载Spark 7
2.2 Spark中Python和Scala的shell 9
2.3 Spark 核心概念简介 12
2.4 独立应用 14
2.4.1 初始化SparkContext 15
2.4.2 构建独立应用 16
2.5 总结 19
第3章 RDD编程 21
3.1 RDD基础 21
3.2 创建RDD 23
3.3 RDD操作 24
3.3.1 转化操作 24
3.3.2 行动操作 26
3.3.3 惰性求值 27
3.4 向Spark传递函数 27
3.4.1 Python 27
3.4.2 Scala 28
3.4.3 Java 29
3.5 常见的转化操作和行动操作 30
3.5.1 基本RDD 30
3.5.2 在不同RDD类型间转换 37
3.6 持久化( 缓存) 39
3.7 总结 40
第4章 键值对操作 41
4.1 动机 41
4.2 创建Pair RDD 42
4.3 Pair RDD的转化操作 42
4.3.1 聚合操作 45
4.3.2 数据分组 49
4.3.3 连接 50
4.3.4 数据排序 51
4.4 Pair RDD的行动操作 52
4.5 数据分区(进阶) 52
4.5.1 获取RDD的分区方式 55
4.5.2 从分区中获益的操作 56
4.5.3 影响分区方式的操作 57
4.5.4 示例:PageRank 57
4.5.5 自定义分区方式 59
4.6 总结 61
第5章 数据读取与保存 63
5.1 动机 63
5.2 文件格式 64
5.2.1 文本文件 64
5.2.2 JSON 66
5.2.3 逗号分隔值与制表符分隔值 68
5.2.4 SequenceFile 71
5.2.5 对象文件 73
5.2.6 Hadoop输入输出格式 73
5.2.7 文件压缩 77
5.3 文件系统 78
5.3.1 本地/“常规”文件系统 78
5.3.2 Amazon S3 78
5.3.3 HDFS 79
5.4 Spark SQL中的结构化数据 79
5.4.1 Apache Hive 80
5.4.2 JSON 80
5.5 数据库 81
5.5.1 Java数据库连接 81
5.5.2 Cassandra 82
5.5.3 HBase 84
5.5.4 Elasticsearch 85
5.6 总结 86
第6章 Spark编程进阶 87
6.1 简介 87
6.2 累加器 88
6.2.1 累加器与容错性 90
6.2.2 自定义累加器 91
6.3 广播变量 91
6.4 基于分区进行操作 94
6.5 与外部程序间的管道 96
6.6 数值RDD 的操作 99
6.7 总结 100
第7章 在集群上运行Spark 101
7.1 简介 101
7.2 Spark运行时架构 101
7.2.1 驱动器节点 102
7.2.2 执行器节点 103
7.2.3 集群管理器 103
7.2.4 启动一个程序 104
7.2.5 小结 104
7.3 使用spark-submit 部署应用 105
7.4 打包代码与依赖 107
7.4.1 使用Maven构建的用Java编写的Spark应用 108
7.4.2 使用sbt构建的用Scala编写的Spark应用 109
7.4.3 依赖冲突 111
7.5 Spark应用内与应用间调度 111
7.6 集群管理器 112
7.6.1 独立集群管理器 112
7.6.2 Hadoop YARN 115
7.6.3 Apache Mesos 116
7.6.4 Amazon EC2 117
7.7 选择合适的集群管理器 120
7.8 总结 121
第8章 Spark调优与调试 123
8.1 使用SparkConf配置Spark 123
8.2 Spark执行的组成部分:作业、任务和步骤 127
8.3 查找信息 131
8.3.1 Spark网页用户界面 131
8.3.2 驱动器进程和执行器进程的日志 134
8.4 关键性能考量 135
8.4.1 并行度 135
8.4.2 序列化格式 136
8.4.3 内存管理 137
8.4.4 硬件供给 138
8.5 总结 139
第9章 Spark SQL 141
9.1 连接Spark SQL 142
9.2 在应用中使用Spark SQL 144
9.2.1 初始化Spark SQL 144
9.2.2 基本查询示例 145
9.2.3 SchemaRDD 146
9.2.4 缓存 148
9.3 读取和存储数据 149
9.3.1 Apache Hive 149
9.3.2 Parquet 150
9.3.3 JSON 150
9.3.4 基于RDD 152
9.4 JDBC/ODBC服务器 153
9.4.1 使用Beeline 155
9.4.2 长生命周期的表与查询 156
9.5 用户自定义函数 156
9.5.1 Spark SQL UDF 156
9.5.2 Hive UDF 157
9.6 Spark SQL性能 158
9.7 总结 159
第10章 Spark Streaming 161
10.1 一个简单的例子 162
10.2 架构与抽象 164
10.3 转化操作 167
10.3.1 无状态转化操作 167
10.3.2 有状态转化操作 169
10.4 输出操作 173
10.5 输入源 175
10.5.1 核心数据源 175
10.5.2 附加数据源 176
10.5.3 多数据源与集群规模 179
10.6 24/7不间断运行 180
10.6.1 检查点机制 180
10.6.2 驱动器程序容错 181
10.6.3 工作节点容错 182
10.6.4 接收器容错 182
10.6.5 处理保证 183
10.7 Streaming用户界面 183
10.8 性能考量 184
10.8.1 批次和窗口大小 184
10.8.2 并行度 184
10.8.3 垃圾回收和内存使用 185
10.9 总结 185
第11章 基于MLlib的机器学习 187
11.1 概述 187
11.2 系统要求 188
11.3 机器学习基础 189
11.4 数据类型 192
11.5 算法 194
11.5.1 特征提取 194
11.5.2 统计 196
11.5.3 分类与回归 197
11.5.4 聚类 202
11.5.5 协同过滤与推荐 203
11.5.6 降维 204
11.5.7 模型评估 206
11.6 一些提示与性能考量 206
11.6.1 准备特征 206
11.6.2 配置算法 207
11.6.3 缓存RDD以重复使用 207
11.6.4 识别稀疏程度 207
11.6.5 并行度 207
11.7 流水线API 208
11.8 总结 209
作者简介 210
封面介绍 210
· · · · · · (收起)
推荐序 xi
译者序 xiv
序 xvi
前言 xvii
第1章 Spark数据分析导论 1
1.1 Spark是什么 1
1.2 一个大一统的软件栈 2
1.2.1 Spark Core 2
1.2.2 Spark SQL 3
1.2.3 Spark Streaming 3
1.2.4 MLlib 3
1.2.5 GraphX 3
1.2.6 集群管理器 4
1.3 Spark的用户和用途 4
1.3.1 数据科学任务 4
1.3.2 数据处理应用 5
1.4 Spark简史 5
1.5 Spark的版本和发布 6
1.6 Spark的存储层次 6
第2章 Spark下载与入门 7
2.1 下载Spark 7
2.2 Spark中Python和Scala的shell 9
2.3 Spark 核心概念简介 12
2.4 独立应用 14
2.4.1 初始化SparkContext 15
2.4.2 构建独立应用 16
2.5 总结 19
第3章 RDD编程 21
3.1 RDD基础 21
3.2 创建RDD 23
3.3 RDD操作 24
3.3.1 转化操作 24
3.3.2 行动操作 26
3.3.3 惰性求值 27
3.4 向Spark传递函数 27
3.4.1 Python 27
3.4.2 Scala 28
3.4.3 Java 29
3.5 常见的转化操作和行动操作 30
3.5.1 基本RDD 30
3.5.2 在不同RDD类型间转换 37
3.6 持久化( 缓存) 39
3.7 总结 40
第4章 键值对操作 41
4.1 动机 41
4.2 创建Pair RDD 42
4.3 Pair RDD的转化操作 42
4.3.1 聚合操作 45
4.3.2 数据分组 49
4.3.3 连接 50
4.3.4 数据排序 51
4.4 Pair RDD的行动操作 52
4.5 数据分区(进阶) 52
4.5.1 获取RDD的分区方式 55
4.5.2 从分区中获益的操作 56
4.5.3 影响分区方式的操作 57
4.5.4 示例:PageRank 57
4.5.5 自定义分区方式 59
4.6 总结 61
第5章 数据读取与保存 63
5.1 动机 63
5.2 文件格式 64
5.2.1 文本文件 64
5.2.2 JSON 66
5.2.3 逗号分隔值与制表符分隔值 68
5.2.4 SequenceFile 71
5.2.5 对象文件 73
5.2.6 Hadoop输入输出格式 73
5.2.7 文件压缩 77
5.3 文件系统 78
5.3.1 本地/“常规”文件系统 78
5.3.2 Amazon S3 78
5.3.3 HDFS 79
5.4 Spark SQL中的结构化数据 79
5.4.1 Apache Hive 80
5.4.2 JSON 80
5.5 数据库 81
5.5.1 Java数据库连接 81
5.5.2 Cassandra 82
5.5.3 HBase 84
5.5.4 Elasticsearch 85
5.6 总结 86
第6章 Spark编程进阶 87
6.1 简介 87
6.2 累加器 88
6.2.1 累加器与容错性 90
6.2.2 自定义累加器 91
6.3 广播变量 91
6.4 基于分区进行操作 94
6.5 与外部程序间的管道 96
6.6 数值RDD 的操作 99
6.7 总结 100
第7章 在集群上运行Spark 101
7.1 简介 101
7.2 Spark运行时架构 101
7.2.1 驱动器节点 102
7.2.2 执行器节点 103
7.2.3 集群管理器 103
7.2.4 启动一个程序 104
7.2.5 小结 104
7.3 使用spark-submit 部署应用 105
7.4 打包代码与依赖 107
7.4.1 使用Maven构建的用Java编写的Spark应用 108
7.4.2 使用sbt构建的用Scala编写的Spark应用 109
7.4.3 依赖冲突 111
7.5 Spark应用内与应用间调度 111
7.6 集群管理器 112
7.6.1 独立集群管理器 112
7.6.2 Hadoop YARN 115
7.6.3 Apache Mesos 116
7.6.4 Amazon EC2 117
7.7 选择合适的集群管理器 120
7.8 总结 121
第8章 Spark调优与调试 123
8.1 使用SparkConf配置Spark 123
8.2 Spark执行的组成部分:作业、任务和步骤 127
8.3 查找信息 131
8.3.1 Spark网页用户界面 131
8.3.2 驱动器进程和执行器进程的日志 134
8.4 关键性能考量 135
8.4.1 并行度 135
8.4.2 序列化格式 136
8.4.3 内存管理 137
8.4.4 硬件供给 138
8.5 总结 139
第9章 Spark SQL 141
9.1 连接Spark SQL 142
9.2 在应用中使用Spark SQL 144
9.2.1 初始化Spark SQL 144
9.2.2 基本查询示例 145
9.2.3 SchemaRDD 146
9.2.4 缓存 148
9.3 读取和存储数据 149
9.3.1 Apache Hive 149
9.3.2 Parquet 150
9.3.3 JSON 150
9.3.4 基于RDD 152
9.4 JDBC/ODBC服务器 153
9.4.1 使用Beeline 155
9.4.2 长生命周期的表与查询 156
9.5 用户自定义函数 156
9.5.1 Spark SQL UDF 156
9.5.2 Hive UDF 157
9.6 Spark SQL性能 158
9.7 总结 159
第10章 Spark Streaming 161
10.1 一个简单的例子 162
10.2 架构与抽象 164
10.3 转化操作 167
10.3.1 无状态转化操作 167
10.3.2 有状态转化操作 169
10.4 输出操作 173
10.5 输入源 175
10.5.1 核心数据源 175
10.5.2 附加数据源 176
10.5.3 多数据源与集群规模 179
10.6 24/7不间断运行 180
10.6.1 检查点机制 180
10.6.2 驱动器程序容错 181
10.6.3 工作节点容错 182
10.6.4 接收器容错 182
10.6.5 处理保证 183
10.7 Streaming用户界面 183
10.8 性能考量 184
10.8.1 批次和窗口大小 184
10.8.2 并行度 184
10.8.3 垃圾回收和内存使用 185
10.9 总结 185
第11章 基于MLlib的机器学习 187
11.1 概述 187
11.2 系统要求 188
11.3 机器学习基础 189
11.4 数据类型 192
11.5 算法 194
11.5.1 特征提取 194
11.5.2 统计 196
11.5.3 分类与回归 197
11.5.4 聚类 202
11.5.5 协同过滤与推荐 203
11.5.6 降维 204
11.5.7 模型评估 206
11.6 一些提示与性能考量 206
11.6.1 准备特征 206
11.6.2 配置算法 207
11.6.3 缓存RDD以重复使用 207
11.6.4 识别稀疏程度 207
11.6.5 并行度 207
11.7 流水线API 208
11.8 总结 209
作者简介 210
封面介绍 210
· · · · · · (收起)
丛书信息
· · · · · ·
图灵程序设计丛书(共107册),
这套丛书还有
《IDA Pro权威指南》《数据架构》《TensorFlow深度学习》《逆向工程核心原理》《GitHub入门与实践》
等
。
喜欢读"Spark快速大数据分析"的人也喜欢的电子书 · · · · · ·
支持 Web、iPhone、iPad、Android 阅读器
喜欢读"Spark快速大数据分析"的人也喜欢 · · · · · ·
- Hive编程指南 7.4
- HBase实战 7.8
- Kafka权威指南 8.4
- Hadoop YARN权威指南 7.4
- Hadoop应用架构 7.9
- 数据密集型应用系统设计 9.6
- HBase权威指南 8.2
- MongoDB权威指南(第2版) 7.8
- 统计学习方法 8.9
Spark快速大数据分析的书评 · · · · · · ( 全部 7 条 )
对于小白来说还是有点晦涩
spark的机制介绍一笔带过,说的很模糊,翻译的也很生硬,3.5星吧 【这是凑字数来满足豆瓣的傻逼设计,既然你限制了≥140,那就要给<140的情况出路,又想评价又写不够140的怎么办?最起码的MECE都没遵循,你们这些吹牛逼的PM放在国际上没一个能打的,包括那个最自以为是的张...
(展开)
相对书还是有些老旧了
本书在大的方向对于Spark有介绍,同时在spark相关概念上也有介绍。但是具体的实际操作代码还是比较少,同时也没有提供比较好的分析数据。 本书使用的spark版本是1.2,现在spark主流都在用2.0之后的版本。所以内容上来说还是比较老旧的。 我觉得如果想要入门spark,还是找些spar...
(展开)
入门spark的好书
一本入门的好书,讲解了spark的基本情况,讲解了spark core已经内部常用组件,稍显不足的是书中的spark版本较低,有些内容已经在新版本中不适用了 书中对RDD做了非常详尽的讲解,对spark streaming spark sql , MLlib等内容讲解不多 总之,对于入门来说足够了,而且本...
(展开)
> 更多书评 7篇
论坛 · · · · · ·
在这本书的论坛里发言这本书的其他版本 · · · · · · ( 全部5 )
-
O'Reilly Media (2020)暂无评分 21人读过
-
人民邮电出版社 (2021)8.1分 30人读过
-
O’Reilly Media, Inc (2015)暂无评分 5人读过
-
东南大学出版社 (2015)暂无评分 3人读过
以下书单推荐 · · · · · · ( 全部 )
- 你也一起看,好不好。 (仙人刺猬球)
- 大数据 (养鸭专业户)
- Spark (hoterran)
- 大数据和机器学习 (Michael)
- 公司图书馆说要买技术书 (李斯特杨)
谁读这本书? · · · · · ·
二手市场
· · · · · ·
订阅关于Spark快速大数据分析的评论:
feed: rss 2.0
0 有用 olostin 2016-06-29 14:53:46
入门好书,后面几章太浅了看看就行。
0 有用 夜空守望者 2022-11-20 11:33:55 广东
短小精悍覆盖广,很适合快速入门
1 有用 福娃迎迎 2021-02-14 09:28:08
快速入门书……
8 有用 greatabel 2019-09-23 22:39:59
大而全,就是代码有些旧跑不起来,偶调通在2.4.4下后重新整理的代码如下: https://github.com/greatabel/DataAnalysis/tree/master/i00Learning%20Spark
3 有用 有一个这样的人 2015-09-22 11:15:34
太好了,一本深入浅出,内容实用的中文Spark入门书籍。Learning Spark中译本
0 有用 Marine 2024-03-09 12:13:59 上海
入门书。其实我挺好奇这种书有什么必要,看看文档就能懂。但另一方面我又确实懒得看文档(。可能是文档太乱了吧
0 有用 Marmot 2023-05-25 00:07:15 上海
简单的入门书籍
0 有用 西泽新兵卫 2023-02-25 09:31:45 北京
2016年读。
0 有用 做好自己胖别人 2023-02-02 18:20:06 四川
还是容易懂得
0 有用 小碧俐 2022-12-31 20:44:54 广东
学习大数据,自然也要学习Spark。了解到Spark最重要的部分是提供一种称为rdd的数据结构,而且提供操作它的方法。该结构可以映射多台计算机上的内存数据,从而为分布式提供了一种统一概念。