内容简介 · · · · · ·
本书沿袭“程序员的数学”系列平易近人的风格,用通俗的语言和具象的图表深入讲解了编程中所需的线性代数知识。内容包括向量、矩阵、行列式、秩、逆矩阵、线性方程、LU分解、特征值、对角化、Jordan标准型、特征值算法等。
作者简介 · · · · · ·
堀玄
专攻应用数学和物理,主要从事脑科学与信号处理领域的研究。喜欢Ruby、JavaScript、PostScript等语言。最近正在研究基于统计学理论的语言处理。工学博士。
平冈和幸
专攻应用数学和物理,对机器学习兴趣浓厚。喜欢Ruby,热爱Scheme。最近被Common Lisp吸引,正在潜心研究。工学博士。
目录 · · · · · ·
第0章 动机 1
0.1 空间想象给我们带来的直观感受 1
0.2 有效利用线性近似的手段 2
第1章 用空间的语言表达向量、矩阵和行列式 5
1.1 向量与空间 5
1.1.1 最直接的定义:把数值罗列起来就是向量 6
· · · · · · (更多)
0.1 空间想象给我们带来的直观感受 1
0.2 有效利用线性近似的手段 2
第1章 用空间的语言表达向量、矩阵和行列式 5
1.1 向量与空间 5
1.1.1 最直接的定义:把数值罗列起来就是向量 6
· · · · · · (更多)
第0章 动机 1
0.1 空间想象给我们带来的直观感受 1
0.2 有效利用线性近似的手段 2
第1章 用空间的语言表达向量、矩阵和行列式 5
1.1 向量与空间 5
1.1.1 最直接的定义:把数值罗列起来就是向量 6
1.1.2 “空间”的形象 9
1.1.3 基底 11
1.1.4 构成基底的条件 16
1.1.5 维数 18
1.1.6 坐标 19
1.2 矩阵和映射 19
1.2.1 暂时的定义 19
1.2.2 用矩阵来表达各种关系(1) 24
1.2.3 矩阵就是映射! 25
1.2.4 矩阵的乘积=映射的合成 28
1.2.5 矩阵运算的性质 31
1.2.6 矩阵的乘方=映射的迭代 35
1.2.7 零矩阵、单位矩阵、对角矩阵 37
1.2.8 逆矩阵=逆映射 44
1.2.9 分块矩阵 47
1.2.10 用矩阵表示各种关系(2) 53
1.2.11 坐标变换与矩阵 55
1.2.12 转置矩阵=??? 63
1.2.13 补充(1):时刻注意矩阵规模 64
1.2.14 补充(2):从矩阵的元素的角度看 67
1.3 行列式与扩大率 68
1.3.1 行列式=体积扩大率 68
1.3.2 行列式的性质 73
1.3.3 行列式的计算方法(1):计算公式▽ 80
1.3.4 行列式的计算方法(2):笔算法▽ 87
1.3.5 补充:行列式按行(列)展开与逆矩阵▽ 91
第2章 秩、逆矩阵、线性方程组——溯因推理 95
2.1 问题设定:逆问题 95
2.2 良性问题(可逆矩阵) 97
2.2.1 可逆性与逆矩阵 97
2.2.2 线性方程组的解法(系数矩阵可逆的情况)▽ 97
2.2.3 逆矩阵的计算方法▽ 107
2.2.4 初等变换▽ 110
2.3 恶性问题 115
2.3.1 恶性问题示例 115
2.3.2 问题的恶劣程度——核与像 120
2.3.3 维数定理 122
2.3.4 用式子表示“压缩扁平化”变换(线性无关、线性相关) 126
2.3.5 线索的实际个数(秩) 130
2.3.6 秩的求解方法(1)——悉心观察 137
2.3.7 秩的求解方法(2)——笔算 142
2.4 良性恶性的判定(逆矩阵存在的条件) 149
2.4.1 重点是“是不是压缩扁平化映射” 149
2.4.2 与可逆性等价的条件 150
2.4.3 关于可逆性的小结 151
2.5 针对恶性问题的对策 152
2.5.1 求出所有能求的结果(1)理论篇 152
2.5.2 求出所有能求的结果(2)实践篇 155
2.5.3 最小二乘法 166
2.6 现实中的恶性问题(接近奇异的矩阵) 167
2.6.1 问题源于哪里 167
2.6.2 对策示例——提克洛夫规范化 170
第3章 计算机上的计算(1)——LU 分解 173
3.1 引言 173
3.1.1 切莫小看数值计算 173
3.1.2 关于本书中的程序 174
3.2 热身:加减乘运算 174
3.3 LU分解 176
3.3.1 定义 176
3.3.2 分解能带来什么好处 178
3.3.3 LU分解真的可以做到吗 178
3.3.4 LU分解的运算量如何 180
3.4 LU分解的步骤(1)一般情况 182
3.5 利用LU分解求行列式值 186
3.6 利用LU分解求解线性方程组 187
3.7 利用LU分解求逆矩阵 191
3.8 LU分解的步骤(2)意外发生的情况 192
3.8.1 需要整理顺序的情况 192
3.8.2 重新整理顺序也无济于事的状况 196
第4章 特征值、对角化、Jordan标准型——判断是否有失控的危险 197
4.1 问题的提出:稳定性 197
4.2 一维的情况 202
4.3 对角矩阵的情况 203
4.4 可对角化的情况 205
4.4.1 变量替换 205
4.4.2 变量替换的求法 213
4.4.3 从坐标变换的角度来解释 215
4.4.4 从乘方的角度来解释 219
4.4.5 结论:关键取决于特征值的绝对值 220
4.5 特征值、特征向量 220
4.5.1 几何学意义 220
4.5.2 特征值、特征向量的性质 225
4.5.3 特征值的计算:特征方程 232
4.5.4 特征向量的计算▽ 240
4.6 连续时间系统 246
4.6.1 微分方程 247
4.6.2 一阶情况 250
4.6.3 对角矩阵的情况 250
4.6.4 可对角化的情况 252
4.6.5 结论:特征值(的实部)的符号是关键 252
4.7 不可对角化的情况 255
4.7.1 首先给出结论 255
4.7.2 就算不能对角化——Jordan标准型 256
4.7.3 Jordan标准型的性质 257
4.7.4 利用Jordan标准型解决初始值问题(失控判定的最终结论) 264
4.7.5 化Jordan标准型的方法 271
4.7.6 任何方阵均可化为Jordan标准型的证明 279
第5章 计算机上的计算(2)——特征值算法 299
5.1 概要 299
5.1.1 和笔算的不同之处 299
5.1.2 伽罗华理论 300
5.1.3 5×5以上的矩阵的特征值不存在通用的求解步骤! 302
5.1.4 有代表性的特征值数值算法 303
5.2 Jacobi方法 303
5.2.1 平面旋转 304
5.2.2 通过平面旋转进行相似变换 306
5.2.3 计算过程的优化 309
5.3 幂法原理 310
5.3.1 求绝对值最大的特征值 310
5.3.2 求绝对值最小的特征值 311
5.3.3 QR分解 312
5.3.4 求所有特征值 316
5.4 QR方法 318
5.4.1 QR方法的原理 319
5.4.2 Hessenberg矩阵 321
5.4.3 Householder方法 322
5.4.4 Hessenberg矩阵的QR迭代 325
5.4.5 原点位移、降阶 327
5.4.6 对称矩阵的情况 327
5.5 反幂法 328
附录A 希腊字母表 330
附录B 复数 331
附录C 关于基底的补充说明 336
附录D 微分方程的解法 341
D.1 dx/dt = f(x) 型 341
D.2 dx/dt = ax + g(t) 型 342
附录E 内积、对称矩阵、正交矩阵 346
E.1 内积空间 346
E.1.1 模长 346
E.1.2 正交 347
E.1.3 内积 347
E.1.4 标准正交基 349
E.1.5 转置矩阵 351
E.1.6 复内积空间 351
E.2 对称矩阵与正交矩阵——实矩阵的情况 352
E.3 埃尔米特矩阵与酉矩阵——复矩阵的情况 353
附录F 动画演示程序的使用方法 354
F.1 执行结果 354
F.2 准备工作 354
F.3 使用方法 355
参考文献 357
· · · · · · (收起)
0.1 空间想象给我们带来的直观感受 1
0.2 有效利用线性近似的手段 2
第1章 用空间的语言表达向量、矩阵和行列式 5
1.1 向量与空间 5
1.1.1 最直接的定义:把数值罗列起来就是向量 6
1.1.2 “空间”的形象 9
1.1.3 基底 11
1.1.4 构成基底的条件 16
1.1.5 维数 18
1.1.6 坐标 19
1.2 矩阵和映射 19
1.2.1 暂时的定义 19
1.2.2 用矩阵来表达各种关系(1) 24
1.2.3 矩阵就是映射! 25
1.2.4 矩阵的乘积=映射的合成 28
1.2.5 矩阵运算的性质 31
1.2.6 矩阵的乘方=映射的迭代 35
1.2.7 零矩阵、单位矩阵、对角矩阵 37
1.2.8 逆矩阵=逆映射 44
1.2.9 分块矩阵 47
1.2.10 用矩阵表示各种关系(2) 53
1.2.11 坐标变换与矩阵 55
1.2.12 转置矩阵=??? 63
1.2.13 补充(1):时刻注意矩阵规模 64
1.2.14 补充(2):从矩阵的元素的角度看 67
1.3 行列式与扩大率 68
1.3.1 行列式=体积扩大率 68
1.3.2 行列式的性质 73
1.3.3 行列式的计算方法(1):计算公式▽ 80
1.3.4 行列式的计算方法(2):笔算法▽ 87
1.3.5 补充:行列式按行(列)展开与逆矩阵▽ 91
第2章 秩、逆矩阵、线性方程组——溯因推理 95
2.1 问题设定:逆问题 95
2.2 良性问题(可逆矩阵) 97
2.2.1 可逆性与逆矩阵 97
2.2.2 线性方程组的解法(系数矩阵可逆的情况)▽ 97
2.2.3 逆矩阵的计算方法▽ 107
2.2.4 初等变换▽ 110
2.3 恶性问题 115
2.3.1 恶性问题示例 115
2.3.2 问题的恶劣程度——核与像 120
2.3.3 维数定理 122
2.3.4 用式子表示“压缩扁平化”变换(线性无关、线性相关) 126
2.3.5 线索的实际个数(秩) 130
2.3.6 秩的求解方法(1)——悉心观察 137
2.3.7 秩的求解方法(2)——笔算 142
2.4 良性恶性的判定(逆矩阵存在的条件) 149
2.4.1 重点是“是不是压缩扁平化映射” 149
2.4.2 与可逆性等价的条件 150
2.4.3 关于可逆性的小结 151
2.5 针对恶性问题的对策 152
2.5.1 求出所有能求的结果(1)理论篇 152
2.5.2 求出所有能求的结果(2)实践篇 155
2.5.3 最小二乘法 166
2.6 现实中的恶性问题(接近奇异的矩阵) 167
2.6.1 问题源于哪里 167
2.6.2 对策示例——提克洛夫规范化 170
第3章 计算机上的计算(1)——LU 分解 173
3.1 引言 173
3.1.1 切莫小看数值计算 173
3.1.2 关于本书中的程序 174
3.2 热身:加减乘运算 174
3.3 LU分解 176
3.3.1 定义 176
3.3.2 分解能带来什么好处 178
3.3.3 LU分解真的可以做到吗 178
3.3.4 LU分解的运算量如何 180
3.4 LU分解的步骤(1)一般情况 182
3.5 利用LU分解求行列式值 186
3.6 利用LU分解求解线性方程组 187
3.7 利用LU分解求逆矩阵 191
3.8 LU分解的步骤(2)意外发生的情况 192
3.8.1 需要整理顺序的情况 192
3.8.2 重新整理顺序也无济于事的状况 196
第4章 特征值、对角化、Jordan标准型——判断是否有失控的危险 197
4.1 问题的提出:稳定性 197
4.2 一维的情况 202
4.3 对角矩阵的情况 203
4.4 可对角化的情况 205
4.4.1 变量替换 205
4.4.2 变量替换的求法 213
4.4.3 从坐标变换的角度来解释 215
4.4.4 从乘方的角度来解释 219
4.4.5 结论:关键取决于特征值的绝对值 220
4.5 特征值、特征向量 220
4.5.1 几何学意义 220
4.5.2 特征值、特征向量的性质 225
4.5.3 特征值的计算:特征方程 232
4.5.4 特征向量的计算▽ 240
4.6 连续时间系统 246
4.6.1 微分方程 247
4.6.2 一阶情况 250
4.6.3 对角矩阵的情况 250
4.6.4 可对角化的情况 252
4.6.5 结论:特征值(的实部)的符号是关键 252
4.7 不可对角化的情况 255
4.7.1 首先给出结论 255
4.7.2 就算不能对角化——Jordan标准型 256
4.7.3 Jordan标准型的性质 257
4.7.4 利用Jordan标准型解决初始值问题(失控判定的最终结论) 264
4.7.5 化Jordan标准型的方法 271
4.7.6 任何方阵均可化为Jordan标准型的证明 279
第5章 计算机上的计算(2)——特征值算法 299
5.1 概要 299
5.1.1 和笔算的不同之处 299
5.1.2 伽罗华理论 300
5.1.3 5×5以上的矩阵的特征值不存在通用的求解步骤! 302
5.1.4 有代表性的特征值数值算法 303
5.2 Jacobi方法 303
5.2.1 平面旋转 304
5.2.2 通过平面旋转进行相似变换 306
5.2.3 计算过程的优化 309
5.3 幂法原理 310
5.3.1 求绝对值最大的特征值 310
5.3.2 求绝对值最小的特征值 311
5.3.3 QR分解 312
5.3.4 求所有特征值 316
5.4 QR方法 318
5.4.1 QR方法的原理 319
5.4.2 Hessenberg矩阵 321
5.4.3 Householder方法 322
5.4.4 Hessenberg矩阵的QR迭代 325
5.4.5 原点位移、降阶 327
5.4.6 对称矩阵的情况 327
5.5 反幂法 328
附录A 希腊字母表 330
附录B 复数 331
附录C 关于基底的补充说明 336
附录D 微分方程的解法 341
D.1 dx/dt = f(x) 型 341
D.2 dx/dt = ax + g(t) 型 342
附录E 内积、对称矩阵、正交矩阵 346
E.1 内积空间 346
E.1.1 模长 346
E.1.2 正交 347
E.1.3 内积 347
E.1.4 标准正交基 349
E.1.5 转置矩阵 351
E.1.6 复内积空间 351
E.2 对称矩阵与正交矩阵——实矩阵的情况 352
E.3 埃尔米特矩阵与酉矩阵——复矩阵的情况 353
附录F 动画演示程序的使用方法 354
F.1 执行结果 354
F.2 准备工作 354
F.3 使用方法 355
参考文献 357
· · · · · · (收起)
丛书信息
· · · · · ·
图灵程序设计丛书·程序员的数学(共12册),
这套丛书还有
《白话深度学习的数学》《统计思维 (第2版)》《程序员的数学(第2版)》《程序员的数学4》《程序员的数学》
等
。
喜欢读"程序员的数学3"的人也喜欢 · · · · · ·
- 程序员的数学4 7.6
- 数学思维导论 7.3
- 线性代数应该这样学 9.0
- 概率导论 (第2版·修订版) 9.4
- 数学与泛型编程 9.0
- 用Python学数学 7.4
- 几何世界的邀请 8.5
- 数学之美 8.7
- 数学女孩2 9.0
- 普林斯顿微积分读本 9.2
程序员的数学3的书评 · · · · · · ( 全部 3 条 )
内容偏难,阐述难以理解,论证缺乏过渡
花了55个番茄钟(每个番茄钟25分钟)看完该书。花费时间超过预期时间的一半。看完感觉还是云里雾里的。本书反复强调了重在理解概念,具体笔算和算法并不重要,在讲解顺序上,也是每个概念都先是大篇幅的铺垫解释,才轮到如何笔算这些大学线性代数主要讲的内容。作为程序员,对这...
(展开)
> 更多书评 3篇
论坛 · · · · · ·
在这本书的论坛里发言这本书的其他版本 · · · · · · ( 全部2 )
-
オーム社 (2004)暂无评分 1人读过
以下书单推荐 · · · · · · ( 全部 )
- 【书】所谓知识的另一种 (自娱者小五)
- 既然买了就要读啊你这个废柴! (杨荔枝)
- 图灵经典书 (图灵教育)
- 我偶然看到2 (明生)
- 线性代数 (lyb)
谁读这本书? · · · · · ·
二手市场
· · · · · ·
订阅关于程序员的数学3的评论:
feed: rss 2.0
3 有用 Rain 2016-09-06 22:58:13
真的是浅显易懂,相比于教会你怎么计算,作者觉得让你理解它的含义要重要的多。这种精神确实是我们大学缺少的
0 有用 催眠 2024-03-06 15:23:07 上海
围绕线性变换来讲解线性代数中的核心概念,能够将它们很好地串联起来,但最好还是再看一本更”常规“的书,比如《线性代数及其应用》,因为本书更多地是给人直观的理解。在如神经网络这样的应用中,仅仅把矩阵看作”数据容器“,把运算看作”计算“,都会让人远离某些更深刻的”意义“或本质。
0 有用 fats 2017-12-30 20:55:00
线代数学概念的本质讲得不错
2 有用 麦田 2018-02-15 19:02:44
遇到一本好书,就像遇到一位好老师
0 有用 hey man 2023-09-05 10:45:41 北京
一章弃,堆砌概念和证明,完全跟这系列第一本的精神违背。写着写着就开始自言自语的秀自己的公式和证明了,这样的书我看课本就行了买你干啥
0 有用 催眠 2024-03-06 15:23:07 上海
围绕线性变换来讲解线性代数中的核心概念,能够将它们很好地串联起来,但最好还是再看一本更”常规“的书,比如《线性代数及其应用》,因为本书更多地是给人直观的理解。在如神经网络这样的应用中,仅仅把矩阵看作”数据容器“,把运算看作”计算“,都会让人远离某些更深刻的”意义“或本质。
0 有用 飞翔的虎头鹰 2023-11-29 12:18:20 广东
先当参考书,暂时没用上。纯粹就是数学书。跟程序没半毛钱关系。
0 有用 鱼骸🌈 2023-09-27 22:10:17 福建
读了前半部分,上学时候学的线性代数真的是只有公式和定理,有几何坐标变换直观多了,但感觉有些还是不太讲得清楚,可以搭配b站《线性代数的本质》一起读
0 有用 hey man 2023-09-05 10:45:41 北京
一章弃,堆砌概念和证明,完全跟这系列第一本的精神违背。写着写着就开始自言自语的秀自己的公式和证明了,这样的书我看课本就行了买你干啥
0 有用 老文化新青年 2023-08-28 10:10:57 北京
内容很好,只是讲解方式比较乱,尤其是最后一章,没有详略得当。