动手学机器学习

◆本书系统介绍了机器学习的基本内容及其代码实现，是一本着眼于机器学习教学实践的图书。

◆本书适合对机器学习感兴趣的专业技术人员和研究人员阅读，同时适合作为人工智能相关专业机器学习课程的教材。

◎编辑推荐：

·名家作品：上海交通大学ACM班创办人俞勇教授、博士生导师张伟楠副教授、APEX实验室博士生赵寒烨编写；

·多位业内大咖力荐：周志华|朱军|李文新|黄萱菁|刘铁岩|陈天奇；

·理论扎实：基于上交大ACM 班的机器学习课程构建机器学习的学习体系；

·配套资源丰富：理论解读视频+在线代码+习题+配套PPT课件+学习社群。

◎内容简介：

本书包含4个部分：第一部分为机器学习基础，介绍了机器学习的概念、数学基础、思想方法和最简单的机器学习算法；第二部分为参数化模型，讲解线性模型、神经网络等算法；第三部分为非参数化模型，主要讨论支持向量机和决策树模型及其变种...

(展开全部)

◆本书系统介绍了机器学习的基本内容及其代码实现，是一本着眼于机器学习教学实践的图书。

◆本书适合对机器学习感兴趣的专业技术人员和研究人员阅读，同时适合作为人工智能相关专业机器学习课程的教材。

◎编辑推荐：

·名家作品：上海交通大学ACM班创办人俞勇教授、博士生导师张伟楠副教授、APEX实验室博士生赵寒烨编写；

·多位业内大咖力荐：周志华|朱军|李文新|黄萱菁|刘铁岩|陈天奇；

·理论扎实：基于上交大ACM 班的机器学习课程构建机器学习的学习体系；

·配套资源丰富：理论解读视频+在线代码+习题+配套PPT课件+学习社群。

◎内容简介：

本书包含4个部分：第一部分为机器学习基础，介绍了机器学习的概念、数学基础、思想方法和最简单的机器学习算法；第二部分为参数化模型，讲解线性模型、神经网络等算法；第三部分为非参数化模型，主要讨论支持向量机和决策树模型及其变种；第四部分为无监督模型，涉及聚类、降维、概率图模型等多个方面。本书将机器学习理论和实践相结合，以大量示例和代码带领读者走进机器学习的世界，让读者对机器学习的研究内容、基本原理有基本认识，为后续进一步涉足深度学习打下基础。

◎专业书评：

本书从机器学习的基本概念入手，结合sklearn机器学习算法库，以大量示例和代码带领读者走进机器学习的世界。

——周志华 南京大学计算机科学与技术系主任兼人工智能学院院长

本书源自上海交通大学 ACM 班机器学习课程讲义，着力帮助读者融会贯通，深入理解机器学习原理并提高动手实战能力，是培养新一代人工智能实战型人才不可多得的好书。

——朱军 清华大学计算机科学与技术系博世人工智能冠名教授、IEEE会士

本书是全面、系统的机器学习教材，主要介绍机器学习的核心概念及代表性方法。本书不仅涵盖神经网络、集成学习等经典的机器学习理论，还配备可在线运行的代码，帮助读者通过动手实战来加强对机器学习技术的理解。无论是初学者还是行业人士，都能从本书中得到有价值的帮助和指导。

——李文新 北京大学计算机学院教授、北京市教学名师、北京大学计算机实验教学中心主任

本书形态新颖、丰富。纸质图书对机器学习的知识体系进行系统介绍，理论解读视频课程对疑难知识点进行更透彻的讲解，代码支持在线运行、修改，习题帮助读者检验、巩固学习效果，教学课件帮助高校教师备课。本书既能为行业人士自学机器学习提供体系化的学习资源，又能通过动手学的方式帮助高校教师和学生完成机器学习的教学与学习。

——黄萱菁 复旦大学计算机科学技术学院、现代语言学研究院教授

智能化升级已成为当代企业在数字化转型后攀登的新阶梯。为此，需要大量具备专业知识的人工智能人才，他们不仅要深入理解人工智能的理论和算法，更应具备实战能力，以应对实际应用场景中的挑战。本书正是为培养这种实战型人工智能人才而编写的，内容详实、示例丰富、代码清晰，强烈推荐给所有希望深入了解人工智能并进行动手实战的读者。

——刘铁岩 微软杰出首席科学家、微软研究院科学智能中心亚洲区负责人、微软亚洲研究院副院长

上海交通大学ACM班注重培养学生扎实的专业基础和动手实战能力。俞勇老师团队编写的这本书体现了上海交通大学ACM班在人工智能基础模块人才培养方面的特色理念，在此推荐给各位读者。

——陈天奇 卡内基梅隆大学机器学习系、计算机科学系助理教授

第一部分 机器学习基础
第 1 章 初探机器学习.........................2
1.1 人工智能的“两只手和四条腿”............ 2
1.2 机器学习是什么................................. 2
1.3 时代造就机器学习的盛行..................... 4
1.4 泛化能力：机器学习奏效的本质............ 5
· · · · · · (更多)

第一部分 机器学习基础
第 1 章 初探机器学习.........................2
1.1 人工智能的“两只手和四条腿”............ 2
1.2 机器学习是什么................................. 2
1.3 时代造就机器学习的盛行..................... 4
1.4 泛化能力：机器学习奏效的本质............ 5
1.5 归纳偏置：机器学习模型的“天赋” ...... 6
1.6 机器学习的限制................................. 7
1.7 小结................................................ 7
第 2 章 机器学习的数学基础...............8
2.1 向量................................................ 8
2.2 矩阵..............................................10
2.2.1 矩阵的基本概念........................... 10
2.2.2 矩阵运算......................................11
2.2.3 矩阵与线性方程组....................... 12
2.2.4 矩阵范数..................................... 13
2.3 梯度..............................................14
2.4 凸函数...........................................17
2.5 小结..............................................19
第 3 章 k近邻算法..........................20
3.1 KNN算法的原理............................. 20
3.2 用KNN算法完成分类任务..................21
3.3 使用scikit-learn实现KNN算法........ 24
3.4 用KNN算法完成回归任务——色彩风格迁移........ 25
3.4.1 RGB空间与LAB空间..................27
3.4.2 算法设计.....................................27
3.5 小结............................................. 30
第 4 章 线性回归............................33
4.1 线性回归的映射形式和学习目标.......... 33
4.2 线性回归的解析方法........................ 35
4.3 动手实现线性回归的解析方法............. 35
4.4 使用sklearn中的线性回归模型.......... 37
4.5 梯度下降算法................................. 38
4.6 学习率对迭代的影响........................ 42
4.7 小结............................................. 44
第 5 章 机器学习的基本思想.............46
5.1 欠拟合与过拟合............................... 46
5.2 正则化约束.................................... 49
5.3 输入特征与相似度........................... 52
5.4 参数与超参数................................. 55
5.5 数据集划分与交叉验证..................... 56
5.6 小结............................................. 57
5.7 扩展阅读：贯穿恒等式的证明............. 58
5.8 参考文献....................................... 58
第二部分 参数化模型
第 6 章 逻辑斯谛回归......................60
6.1 逻辑斯谛函数下的线性模型.................61
6.2 最大似然估计................................. 62
6.3 分类问题的评价指标........................ 64
6.4 动手实现逻辑斯谛回归..................... 69
6.5 使用sklearn中的逻辑斯谛回归模型.... 73
6.6 交叉熵与最大似然估计..................... 74
6.7 小结............................................. 76
6.8 扩展阅读：广义线性模型.................. 78
6.9 参考文献....................................... 79
第 7 章 双线性模型.........................80
7.1 矩阵分解.........................................81
7.2 动手实现矩阵分解模型...................... 83
7.3 因子分解机.................................... 86
7.4 动手实现因子分解机模型.................. 89
7.5 小结............................................. 92
7.6 扩展阅读：概率矩阵分解................... 93
7.7 参考文献....................................... 95
第 8 章 神经网络与多层感知机..........96
8.1 人工神经网络.................................. 96
8.2 感知机.......................................... 97
8.3 隐含层与多层感知机........................ 99
8.4 反向传播......................................102
8.5 动手实现多层感知机.......................104
8.6 用PyTorch库实现多层感知机.......... 110
8.7 小结............................................ 113
8.8 参考文献...................................... 114
第 9 章 卷积神经网络.....................115
9.1 卷积............................................. 115
9.2 神经网络中的卷积.......................... 117
9.3 用卷积神经网络完成图像分类任务...... 119
9.4 用预训练的卷积神经网络完成色彩风格迁移........126
9.4.1. VGG网络.................................126
9.4.2. 内容表示与风格表示................. 127
9.5 小结............................................134
9.6 扩展阅读：数据增强.......................134
9.7 参考文献......................................136
第 10 章 循环神经网络................... 137
10.1 循环神经网络的基本原理................137
10.2 门控循环单元...............................139
10.3 动手实现GRU............................ 141
10.4 小结...........................................146
10.5 参考文献.....................................147
第三部分 非参数化模型
第 11 章 支持向量机...................... 150
11.1 支持向量机的数学描述....................150
11.2 序列最小优化...............................153
11.3 动手实现SMO求解SVM.............156
11.4 核函数........................................158
11.5 sklearn中的SVM工具................162
11.6 小结...........................................163
11.7 扩展阅读：SVM对偶问题的推导.....164
第 12 章 决策树............................ 167
12.1 决策树的构造...............................168
12.2 ID3算法与C4.5算法................... 171
12.3 CART算法.................................172
12.4 动手实现C4.5算法的决策树..........175
12.4.1. 数据集处理..............................175
12.4.2. C4.5算法的实现.....................178
12.5 sklearn中的决策树.....................182
12.6 小结...........................................183
12.7 参考文献.....................................184
第 13 章 集成学习与梯度提升决策树... 185
13.1 自举聚合与随机森林......................186
13.2 集成学习器.................................. 191
13.3 提升算法.....................................194
13.3.1. 适应提升.................................. 195
13.3.2. 梯度提升.................................200
13.4 小结.......................................... 205
13.5 参考文献.................................... 206
第四部分 无监督模型
第 14 章 k均值聚类......................208
14.1 k均值聚类算法的原理................... 208
14.2 动手实现k均值算法..................... 209
14.3 k-means++算法.......................212
14.4 小结...........................................214
14.5 参考文献.....................................215
第 15 章主成分分析...................... 216
15.1 主成分与方差...............................216
15.2 利用特征分解进行PCA.................218
15.3 动手实现PCA算法......................221
15.4 用sklearn实现PCA算法........... 222
15.5 小结.......................................... 223
第 16 章 概率图模型...................... 225
16.1 贝叶斯网络................................. 226
16.2 最大后验估计.............................. 228
16.3 用朴素贝叶斯模型完成文本分类.......231
16.4 马尔可夫网络.............................. 234
16.5 用马尔可夫网络完成图像去噪......... 236
16.6 小结.......................................... 240
16.7 参考文献.....................................241
第 17 章 EM算法.........................242
17.1 高斯混合模型的EM算法............... 243
17.2 动手求解GMM来拟合数据分布..... 245
17.3 一般情况下的EM算法..................251
17.4 EM算法的收敛性........................ 253
17.5 小结.......................................... 254
第 18 章 自编码器......................... 255
18.1 自编码器的结构........................... 256
18.2 动手实现自编码器........................ 257
18.3 小结.......................................... 262
18.4 参考文献.................................... 262
总结与展望....................................264
总结................................................... 264
展望................................................... 264
中英文术语对照表........................... 267
· · · · · · (收起)