寻找上帝的“随机变量”——读《从掷骰子到阿尔法狗：趣谈概率》

寻找上帝的“随机变量”——读《从掷骰子到阿尔法狗：趣谈概率》

1、引子

这本书挺有趣，书中介绍的著名趣味概率问题包括赌博点数分配问题、赌徒谬误、高尔顿钉板、几何概型悖论、酒鬼漫步、德国坦克问题、博士相亲、中国餐馆过程等。通过讨论这些简单有趣的例子，让读者了解概率统计中的重要概念，诸如随机变量、期望值、贝叶斯定理、大数定律、中心极限定理、马尔可夫过程、深度学习等等。让年轻人从游戏和趣题中学到知识，吸引他们踏进基础科学、人工智能、信息技术的大门。

2、处处是概率，万物皆随机

在人类对世界规律的未知领域还在苦苦探索的部分，常常会将不可预测的现象归为随机（概率）事件，而影响这些事件发生的因子就是各种随机变量和随机过程。研究随机变量及其概率的数学理论，就叫做“概率论”。

在古典概率论的观点来看，概率就可以被粗糙地定义为事件发生的频率，即发生次数与总次数的比值。更准确地说，是总次数趋于无限时，这个比值趋近的极限。（典型的事件就是抛硬币）。

而作为现代人工智能及深度学习的理论奠基，贝叶斯学派却认为：概率一词所描述的并不是“对随机事件重复的频率”，而更像是对某种“不确定性”的度量。

思考概率的本质，认识到概率有其客观性，也有其主观性。这是频率学派与贝叶斯学派的重要分歧之一。

3、随机过程及马尔科夫链

我们知道了世界上有两类变量：确定变量和随机变量。确定变量遵循经典的物理规律：牛顿力学或麦克斯韦方程。

单粒子系统中粒子在三维空间运动的轨迹x（t），是牛顿第二定律所决定的与时间有关的运动方程的解。

电磁波遵循的规律是麦克斯韦方程的解。

而当随机变量的概率性质，涉及时间的概念，即随机变量随时间而动起来，便成为“随机过程”。

——我大致理解就是不同的随机变量，存在相互的依赖关系，这个关系用马尔科夫的方式来表示的离散随机过程，就是马尔科夫链。如深圳今天低温5摄氏度，明天继续低温和明天高温的概率就和今天的低温有依赖关系，且概率会大不相同。

4、熵理论

第四章又讲到我最感兴趣的热力学甚至哲学思想中最重要的概念：熵。

熵不是一个人人皆知的名词，却是物理学上很重要、很基本的概念。它诞生于热力学，但它的定义和意义被扩展到远远与热力学，甚至与物理学都完全不相干的领域，比如生物学和信息学。，“熵”诞生于热力学，亮相于物理世界，后来又走得远远的，来到宇宙学、黑洞物理、生物学、信息论、计算机学、生态、心理、社会、金融等领域，成为一个至今仍然十分令人迷惘的造成许多混乱的值得深究的科学概念。

——有兴趣的朋友可以自行思考这个哲学命题，我个人觉得很有意义：世界是熵增的，而有意义的人生应该是熵减的。（薛定谔语，此处不再展开）

那概率和熵有什么关系？

香农给出公式，不仅仅针对语言句子，而是针对一般的所谓“信息源”，用随机变量中所有可能事件信息量的平均值，来度量这个随机变量“信源”的信息，称之为“信息熵”，也叫信源熵、自信息熵等。

最大信息熵原理

——就是当你对一个随机过程不够了解时，你对概率分布的猜测要使得信息熵最大。熵最大就是事物可能的状态数最多，复杂程度最大。换句话说，对随机事件的预测要在满足全部约束条件下，保留各种可能性。

——类比，股票市场的操作，就是因为它难以预测，所以最好的策略是尽可能多地保留各种可能性，才能降低预测的风险。

5、人工智能

第6、7章终于进入到人工智能和机器学习的领域，原来现代机器学习的理论基础就是马尔科夫、贝叶斯等人的理论基础所构建的多层卷积神经网络。

6、结语

总体来看，本书作者尽量用浅显的语言和生活中的实例如赌场、相亲、二战坦克生产量的评估等等，讲深奥的概率背后的数学理论通俗化，甚至还引出了苏格拉底关于婚姻和爱情的哲学问题，在学科上，串联起了古典概率论、量子理论、热力学“熵理论“，以及现在热的如火如荼的人工智能。

是一本不多见的、跨越多领域多学科的中级科普读物，对于部分专业领域的知识，完全可以跳过阅读，适合有一定工科背景的读者阅读。

三个石头

2021.1.10