涌现：从简单规则到复杂世界

第一篇 生命中的涌现
第1章　随椋鸟飞行　2
1.1　灵活一致性　3
1.2　局部简单规则　4
1.3　破解真实鸟群　5
1.4　小结　7
· · · · · · (更多)

第一篇 生命中的涌现
第1章　随椋鸟飞行　2
1.1　灵活一致性　3
1.2　局部简单规则　4
1.3　破解真实鸟群　5
1.4　小结　7
参考文献　7
第2章　蚁群的智慧　8
2.1　蚂蚁社会　8
2.2　超级生物体　9
2.3　蚂蚁觅食　10
2.3.1　觅食实验　11
2.3.2　信息素与正反馈　12
2.3.3　模拟实验　13
2.4　蚁群的启发　14
参考文献　15
第3章　神奇的黏菌设计师　16
3.1　黏菌—阿米巴　16
3.2　黏菌路网规划实验　17
3.3　揭秘黏菌的涌现　18
3.3.1　收缩的管道　18
3.3.2　正反馈　19
3.3.3　黏菌模拟　19
3.4　黏菌“宠物”22
参考文献　22
第4章　无中生有　23
4.1　什么是涌现　23
4.2　秩序的无中生有　23
4.3　度量涌现　24
4.3.1　无序和有序的度量——信息熵　25
4.3.2　涌现的量化　26
4.3.3　不足　27
4.4　涌现与计算机模拟　28
参考文献　29
第二篇　计算机程序中的涌现
第5章　模拟生灵　32
5.1　人工生命：Floy　32
5.1.1　运行Floy　33
5.1.2　Floy的规则　34
5.1.3　Floy带来的启发　35
5.2　群体运动的统一　35
5.2.1　作用区间　36
5.2.2　多种集体行为　36
5.2.3　小结　38
5.3　兰顿蚂蚁　38
5.3.1　规则　39
5.3.2　行为模式　39
5.3.3　神奇的“高速公路”40
5.3.4　各种扩展　40
5.3.5　小结　40
参考文献　41
第6章　方格宇宙　42
6.1　神奇的生命游戏　42
6.1.1　游戏规则　43
6.1.2　斑图　43
6.1.3　更多神奇的结构　44
6.1.4　生命游戏的意义　47
6.2　基础元胞自动机　48
6.2.1　状态　48
6.2.2　邻域　48
6.2.3　规则　49
6.2.4　编码　50
6.2.5　执行规则　50
6.2.6　循环边界　50
6.2.7　运行　51
6.2.8　涌现就是一张运行图　51
6.3　元胞自动机分类　52
6.3.1　四种类型　54
6.3.2　信息扩散　55
6.4　小结　56
参考文献　56
第7章　计算宇宙　57
7.1　各式计算宇宙　57
7.1.1　图灵机　57
7.1.2　替代系统　60
7.1.3　正整数　61
7.2　计算宇宙之间的纽带　63
7.2.1　元胞自动机模拟图灵机　63
7.2.2　图灵机模拟元胞自动机　65
7.2.3　通用机器　67
7.2.4　寻找最小通用机器　68
7.3　两条重要原理　69
7.3.1　计算等价性原理　69
7.3.2　计算不可约原理　71
7.4　小结　71
参考文献　72
第8章　从人工神经网络到大语言模型　73
8.1　从设计到涌现　73
8.2　神经网络　74
8.2.1　神经元与神经网络　74
8.2.2　神经网络的学习能力　75
8.2.3　各式神经网络　78
8.3　大语言模型　82
8.3.1　何谓语言模型　82
8.3.2　预训练与微调　83
8.3.3　大则不同　83
8.3.4　提示词诱导的能力　84
8.3.5　上下文学习　84
8.3.6　思维链与复杂推理　85
8.3.7　测试阶段推理　86
8.4　涌现的人工智能　86
参考文献　87
第9章　大语言模型中的涌现　88
9.1　神经网络的顿悟　88
9.2　大语言模型的能力涌现　90
9.3　什么是涌现　92
9.4　渗流与相变　93
9.4.1　森林火灾模型　93
9.4.2　随机网络　96
9.4.3　相变与临界　97
9.5　大语言模型中的渗流　98
9.5.1　概念—特征二分图　99
9.5.2　二分图上的渗流相变　99
9.5.3　不足与展望　100
参考文献　101
第10章　混沌与秩序的边缘　102
10.1　兰顿的参数　102
10.2　再探四种类型的元胞自动机　103
10.2.1　混沌边缘的相变　104
10.2.2　复杂度的突变　105
10.3　扩展讨论　106
10.4　混沌边缘下的涌现　107
参考文献　107
第11章　自组织临界与程序进化　108
11.1　沙堆模型与自组织临界　108
11.1.1　沙堆模型　108
11.1.2　自组织临界　110
11.2　数字生命　110
11.2.1　生物进化　110
11.2.2　模拟生物进化　111
11.2.3　进化的Floy　112
11.2.4　Tierra　114
11.3　进化与涌现　118
11.4　程序世界的总结　119
参考文献　120
第三篇　人类群体中的涌现
第12章　人类的集体愚蠢　122
12.1　大规模拥挤与踩踏　122
12.1.1　大规模踩踏事件　122
12.1.2　大规模人群=流体？　123
12.1.3　如何避免群体踩踏　123
12.2　交通堵塞　124
12.3　乌合之众　126
12.4　为什么“万物灵长”会成为“乌合之众”127
参考文献　127
第13章　人类的群体智能　128
13.1　群氓的智慧　128
13.1.1　集体乒乓球　128
13.1.2　上万人集体玩《原神》　129
13.1.3　百万用户的拼图　130
13.1.4　群氓的智慧的产生　131
13.2　群体智能与集体愚蠢　132
参考文献　132
第14章　协同的力量　133
14.1　整体与部分　133
14.1.1　整体不等于部分　133
14.1.2　整体大于部分之和　134
14.1.3　整体小于部分之和　135
14.2　协同是什么　135
14.2.1　时空同步　136
14.2.2　信息力　136
14.3　量化协同　136
14.3.1　互信息　137
14.3.2　互信息的分解　138
14.3.3　多个源变量与冗余晶格　142
14.4　小结　146
参考文献　146
第15章　人类组织中的群体智能　148
15.1　组织——从“红色”到 “青色”　148
15.2　测量“集体智商”　151
15.2.1　麦格拉思任务环形图　151
15.2.2　影响“集体智商”的因素　152
15.2.3　决策流与评价流的对冲　153
15.2.4　多样性　154
15.2.5　协同涌现与团队表现　155
15.3　多样性、产出与增长　157
15.3.1　规模法则　158
15.3.2　协同与冗余的新度量　160
15.3.3　新度量方法的优缺点　162
15.4　组织层级的涌现　162
15.4.1　收益与成本　163
15.4.2　层级化组织　164
15.4.3　层级化组织的很优模型　165
15.4.4　对邓巴数比例的解释　168
15.5　小结　169
参考文献　170
第四篇　走进物理世界
第16章　超越协同　172
16.1　绳子上的波　172
16.2　钱塘潮　174
16.3　台风　176
16.4　木星大红斑　177
16.5　不仅是协同　178
16.5.1　新物理的涌现　179
16.5.2　热力学与统计物理学　179
16.5.3　真实还是虚拟　181
参考文献　182
第17章　走进数学世界　183
17.1　什么是动力系统　183
17.1.1　状态　184
17.1.2　动力学　185
17.1.3　演化　186
17.2　随机动力系统　187
17.3　马尔可夫链　189
17.3.1　状态转移图　189
17.3.2　状态分布、动力学与演化　192
17.3.3　如何得到马尔可夫链　199
17.3.4　与确定性动力系统的比较　200
17.4　小结　200 参考文献　200
第五篇　揭秘涌现
第18章　从现象到本质　202
18.1　涌现意味着什么　203
18.1.1　新奇性　204
18.1.2　自组织　204
18.1.3　去中心化　205
18.1.4　稳健性与适应性　206
18.1.5　超越设计　206
18.2　涌现的历史　207
18.2.1　整体先于部分　207
18.2.2　格式塔心理学　208
18.2.3　原始涌现主义　209
18.2.4　新涌现主义——复杂 科学　209
18.2.5　涌现的量化研究　210
18.3　涌现的定义　211
18.3.1　不可归约性　211
18.3.2　不可预测性　212
18.3.3　融合思路　212
18.3.4　产生方式与行为表现　212
18.4　涌现的核心要素　213
18.4.1　尺度　213
18.4.2　观察者　215
18.4.3　斑图　217
18.4.4　因果　218
18.4.5　涌现的因果　219
18.4.6　综合　221
参考文献　222
第19章　涌现的分类　224
19.1　基于归因的分类　224
19.1.1　名义涌现　224
19.1.2　弱涌现　224
19.1.3　强涌现　225
19.1.4　小结　226
19.2　基于反馈的分类　227
19.2.1　简单涌现（不存在反馈）　227
19.2.2　弱涌现（存在反馈）　228
19.2.3　多重涌现（正负反馈 并存）　228
19.2.4　强涌现（随附性）　231
19.2.5　小结　232
19.3　基于观察者的分类　232
19.3.1　发现　233
19.3.2　反思涌现　233
19.3.3　机械涌现　233
19.4　更多分类方式　234
参考文献　234
第20章　因果涌现　235
20.1　什么是因果涌现　235
20.2　布尔网络上的因果涌现　237
20.2.1　四节点的简单例子　238
20.2.2　有效信息　239
20.2.3　粗粒化　239
20.2.4　更多例子　241
20.2.5　小结　242
20.3　马尔可夫链上的因果涌现　242
20.3.1　有效信息　243
20.3.2　例子　245
20.3.3　如何计算　246
20.3.4　状态空间的粗粒化　248
20.3.5　状态转移图的粗粒化　249
20.3.6　因果涌现示例　251
20.3.7　有效性与有效性涌现　253
20.3.8　观察者效应与优选化 有效信息　253
20.3.9　小结　255
20.4　复杂网络上的因果涌现　255
20.4.1　各种网络的有效信息　255
20.4.2　复杂网络的因果涌现　257
20.5　应用案例　259
20.5.1　基因调控网络　259
20.5.2　演化与涌现　260
20.5.3　蚁群互动网络　261
20.6　小结　262
参考文献　263
第21章　涌现的信息分解理论　264
21.1　量化因果涌现　265
21.1.1　赫尔等人框架中的 一个问题　265
21.1.2　为什么要用信息分解　266
21.1.3　基于特有信息的定义　266
21.1.4　基于协同信息的定义　267
21.2　因果涌现的分解　270
21.2.1　整合信息分解　271
21.2.2　因果涌现的分解　273
21.2.3　因果解耦　273
21.2.4　向下因果　274
21.3　优势和不足　275
21.3.1　优势：不需要粗粒化 方案　275
21.3.2　优势：能够清晰反映 “整体大于部分之和”　275
21.3.3　优势：因果解耦和向下 因果　276
21.3.4　不足：计算方法的缺失 与不足　276
21.3.5　不足：信息分解理论 存在缺陷　276
21.3.6　不足：与因果无关　277
21.4　两套理论的融合　277
21.4.1　因果涌现与信息分解　277
21.4.2　有效信息的分解　280
21.5　小结　284
参考文献　285
第22章　因果涌现与时间倒流　286
22.1　动力学与信道　287
22.1.1　香农的通信模型　287
22.1.2　动力学即信道　287
22.1.3　马尔可夫链　288
22.2　动力学可逆性　289
22.2.1　什么是动力学可逆性　289
22.2.2　近似动力学可逆性　289
22.2.3　近似动力学可逆性的 本质　293
22.3　基于可逆性的因果涌现　297
22.3.1　动力学可逆性的涌现　297
22.3.2　更多讨论　302
参考文献　305
第23章　更多涌现理论　306
23.1　因果涌现2.0　306
23.1.1　更广泛的因果效应度量 手段　306
23.1.2　微观—宏观路径　307
23.1.3　因果分配模式　307
23.1.4　涌现复杂度　308
23.2　闭圈理论　309
23.3　广义的涌现　311
23.3.1　对称性涌现理论　312
23.3.2　广义的秩序涌现　313
23.3.3　目标导向性的涌现　313
23.3.4　范畴论表述　314
23.4　小结　316
参考文献　316
第六篇　人工智能与涌现
第24章　复杂系统自动建模　318
24.1　科学智能　318
24.2　复杂科学与人工智能　319
24.3　复杂系统的数据驱动建模　319
24.4　动力学学习　320
24.4.1　回声状态网络　321
24.4.2　图神经网络　321
24.4.3　雾霾预报　322
24.5　网络重构　325
24.5.1　GGN　325
24.5.2　AIDD　327
24.5.3　动态图学习　328
24.6　小结　329
参考文献　329
第25章　从数据中发现涌现　330
25.1　因果涌现识别　330
25.1.1　输入　331
25.1.2　输出　331
25.2　NIS　332
25.2.1　预测世界的下一步　332
25.2.2　NIS的总体框架　332
25.2.3　编码器　333
25.2.4　解码器　336
25.2.5　动力学学习器　337
25.2.6　训练和学习　337
25.2.7　遍历　337
25.2.8　实验结果　338
25.2.9　小结　345
25.2.10　信息通路与信息瓶颈　345
25.2.11　优势与不足　347
25.3　NIS+　347
25.3.1　数学！数学！数学！348
25.3.2　NIS+框架　349
25.3.3　复杂的编码器　350
25.3.4　训练　352
25.3.5　实验结果　353
25.3.6　优势与不足　360
25.3.7　优选化有效信息原理　361
25.3.8　机器观察者　363
参考文献　364
第26章　计算力学——涌现研究的 新范式　365
26.1　什么是计算力学　366
26.2　涌现的观察者视角　368
26.3　观察者智能体　369
26.3.1　0级模型　370
26.3.2　因果态　371
26.3.3　机　372
26.3.4　机器的升级　373
26.3.5　一个重构的实例　374
26.3.6　意义　375
26.4　复杂度　376
26.4.1　柯氏复杂度　376
26.4.2　统计复杂度　377
26.5　对比　379
26.5.1　与因果涌现的比较　379
26.5.2　与NIS系列的对比　380
26.6　小结　382
参考文献　382
第七篇　涌现理论的应用
第27章　因果涌现与意识之谜　384
27.1　唯物、唯心与涌现　384
27.2　意识的整合信息理论　385
27.2.1　多和一　385
27.2.2　？？？ 386
27.2.3　示例　387
27.2.4　和意识的关系　389
27.2.5　关于意识的六条公理　390
27.2.6　实验验证　392
27.2.7　批判　393
27.3　大脑中的因果涌现　393
27.3.1　实验与数据　394
27.3.2　因果涌现结果　395
27.3.3　涌现动力学　395
27.3.4　归因分析　397
27.4　大脑中的协同与冗余　399
27.5　意识与因果涌现　400
参考文献　401
第28章　生命活性的度量　402
28.1　背景　402
28.1.1　两种看似矛盾的能力　402
28.1.2　个体信息论　403
28.1.3　有效信息的重要性　404
28.2　定义活性　404
28.2.1　因果机制　404
28.2.2　有效信息　406
28.2.3　活性的度量　406
28.2.4　活性的分解　407
28.3　活性指标的应用　408
28.3.1　用活性指标刻画混沌边缘状态　408
28.3.2　布尔网络的活性　409
28.3.3　寻找最适应的基因组件　410
28.3.4　应用前景　412
参考文献　412
第29章　涌现计算　413
29.1　什么是涌现计算　413
29.2　基于仿生的涌现计算　414
29.2.1　从鸟群到粒子群的优化 算法　414
29.2.2　蚂蚁觅食的优化算法　415
29.2.3　黏菌的涌现计算　417
29.2.4　小结　418
29.3　基于进化的涌现计算　419
29.4　可微分的元胞自动机　421
29.5　大模型加持的搜索　423
29.5.1　基础模型　424
29.5.2　生命程序的向量表示　424
29.5.3　搜索程序空间　424
29.5.4　量化涌现现象　428
29.6　涌现计算引发的思考　429
参考文献　429
第30章　涌现控制　431
30.1　什么是控制　432
30.1.1　控制的基本概念　432
30.1.2　控制问题的特别之处　433
30.2　复杂系统的控制　433
30.2.1　复杂的因果之网　433
30.2.2　找到那只“小蝴蝶”　434
30.2.3　“小蝴蝶”与“大势能”　435
30.3　涌现控制理论　435
30.3.1　分布式涌现控制　435
30.3.2　基于涌现因果的涌现 控制　436
30.4　研究案例　438
30.4.1　预判“大势”　438
30.4.2　寻找“蝴蝶”　439
30.4.3　复杂网络的可控性　441
30.4.4　四两拨千斤　442
30.4.5　自重构机器人　443
30.4.6　数据驱动的控制　444
30.4.7　强化学习与涌现控制　445
30.5　小结　450
参考文献　450
第31章　涌现设计　452
31.1　简单算法的非凡复杂性　452
31.1.1　复数迭代的神奇世界　452
31.1.2　L系统的非凡创造　455
31.1.3　元胞自动机音乐　457
31.1.4　集群动画　459
31.2　AI大模型的创造　460
31.2.1　生成式AI模型　460
31.2.2　深度梦境　462
31.3　交互式进化　463
31.3.1　盲眼的钟表匠　463
31.3.2　人脸的“进化”　465
31.3.3　与生成式AI结合　465
31.4　涌现与游戏　467
31.4.1　涌现与沉浸　468
31.4.2　面向游戏设计的人工智能　469
31.5　涌现设计的更多应用　472
31.5.1　教育领域的涌现设计　472
31.5.2　敏捷开发的涌现设计　472
31.5.3　建筑领域的涌现设计　473
参考文献　474
第32章　模拟真实社会　476
32.1　如何创造人工社会　476
32.1.1　市场的出现　477
32.1.2　价格的形成　479
32.2　涌现还是进化　481
32.2.1　社会分工及其进化　481
32.2.2　货币的涌现　485
32.3　网络游戏——大规模的真人 模拟　488
32.3.1　虚拟世界中的疫情 传播　488
32.3.2　人工市场中的不可 预测性　489
32.3.3　测算网络游戏的GDP　490
32.4　基于大语言模型的社会学模拟　491
32.4.1　斯坦福小镇　491
32.4.2　人工“利维坦”　492
32.4.3　社会模拟器 AgentSociety　493
32.4.4　宏观经济系统模拟器EconAgent　494
32.4.5　更全面的评估　495
32.5　小结　495
参考文献　495
第33章　人机协同与未来社会　497
33.1　AI会取代人类吗　498
33.1.1　奇点临近　498
33.1.2　被忽视的人机关系　498
33.1.3　人的意义　499
33.2　AI外衣　500
33.2.1　界面革命　500
33.2.2　AI智能体　501
33.2.3　智能体式AI　502
33.2.4　智能体之网　503
33.2.5　机器经济人　504
33.2.6　“上帝视角”的优化　505
33.3　人机混合社会　508
33.3.1　人机社会学　508
33.3.2　从众包到游戏化　510
33.3.3　两种智能　512
33.3.4　注意力流视角　515
33.4　走近2050　518
33.4.1　地球生态系统　519
33.4.2　能量流和系统嵌套　521
33.4.3　具身智能与向下因果　521
33.4.4　自稳态调节与全球脑 觉醒　522
参考文献　523
第八篇　终结
第34章　结语与展望　526
34.1　涌现　526
34.1.1　简单程序中的发现　526
34.1.2　协同就是整体大于部分 之和　527
34.1.3　宏观超越微观　527
34.1.4　涌现认识小结　527
34.2　观察者与涌现　528
34.2.1　观察者效应能消除吗　528
34.2.2　因果涌现的双重含义　528
34.2.3　机器观察者　529
34.2.4　涌现是不是一种观察者 效应　530
34.2.5　大语言模型中的涌现　530
34.3　因果　531
34.3.1　因果机制　531
34.3.2　因果力　531
34.3.3　因果力与可逆性　532
34.3.4　对称性的涌现与破缺　532
34.3.5　因果力与观察者　533
34.3.6　向下因果　534
34.3.7　自由意志　535
34.4　涌现理论与东方智慧　536
参考文献　537
附录　冗余信息、特有信息和 协同信息的计算方法　538
· · · · · · (收起)