非常棒的人工智能发展史介绍

作为接触过一些机器学习的内容、调过一些库的人，看起这本书来，有那么一丢丢觉得奇怪，并不那么机器学习。

以前并不知道人工智能有三大主要流派：符号主义、连接主义、行为主义。神奇的是，这仨流派我都过多或少接触过，只是并不知道这个体系是这样划分的。最近看书越发觉得缺少系统框架，有些东西在知识体系里摆不好位置，不算好现象。好的是读点有体系的书就能迅速填充过去，只是漏了哪些，也说不太清楚。从人工智能的实现意义上来说，这仨分别指心智派、结构派、行为派，也就是研究人的推理能力、研究大脑的结构、研究人的行为。

人工智能公认从达特茅斯会议开始的，这时候红的是符号主义学派，核心思想是“认知即计算”。

符号主义起初是推理期，描述已知来推理未知，分为认知派和逻辑派。逻辑派的代表是纽厄尔和司马贺，他们认为物理符号系统可以用来模拟人类的智能。他们在会议上提出的“逻辑理论家”就是将问题形式化，通过树搜索加剪枝算法得到和结论一致的变换形式，将树的这条分支路径连接起来，成为对定理的证明。认知派的代表是明斯基和麦卡锡，麦卡锡的《常识编程》论文，那就是 pddl 的原理啊——以前一直纳闷 pddl 这种用 dsl 写约束和定义，利用启发式算法求解的语言为什么会被放入人工智能里，现在知道了，它属于符号主义学派里的认知派。这个时期的主要困难是：需要描述的已知从哪里来？就好比 pddl 也需要人定义一大堆经验条件一样，要从头开始定义 domain knowledge，非常复杂而且多变，缺少重用性。麦卡锡的另外一篇通过七个运算符来定义一种图灵完备语言的论文，被他学生实现成 LISP，可谓是计算机语言的一个里程碑，而 LISP 的元编程能力（数据可以变为程序、符号可以修改自身的行为的能力）是一种程序的学习能力。

推理期后面是知识期，试图解决推理需要的知识问题。这个时期有类似思维导图的语义网络，它适用于检索推理，但不适用于定量的动态的知识，也不适合表达过程性、控制性的知识；有知识工程和知识系统，试图建造计算机用的知识库和知识引擎，前者是知识的存储，后者是用于知识的检索和推理求解的，专家系统就属于这一类，专家就是用来进行知识定义的，让系统自己利用推理期的方法求解。

但是推理期和知识期，都算不上真正的人工智能，因为是人在帮机器工作，人是主要的信息来源。所以进化到学习期，想要机器拥有自我学习改进的能力。这个时期的代表是决策树，计算机通过训练数据构建出合理的决策树。通过样本训练最优决策树是 NP 完全问题，所以通常用启发式算法来找到局部最优。

连接主义就是现在比较流行的机器学习概念了，不再是试图模拟人的思考，而是模拟人的大脑结构，所以主要讲了神经网络。以前一直纳闷神经网络为什么炒冷饭，据这本书所言应该是实现性限制了它的发展，因为计算能力达不到。深度学习的发展真是要多谢摩尔定律。这一部分讲得很棒的是机器学习特征选取时的维度灾难、评估的几种指标分别代表什么、神经网络目标函数里的正则化项的意义（怎样靠不同的范数来避免过拟合）。深度学习比浅层神经网络多了许多隐层外，出现的意义是人的认知是“分层迭代、逐级抽象”的，出现的时机是误差反向传播算法的出现大大减少了计算复杂度，名字的来由是Hinton 当时用神经网络投稿各种被拒只能改名……深度学习这块讲了卷积神经网络的卷积和池化、带时间序列的循环神经网络里的短期记忆网络和长短期记忆网络、对抗式生成网络里的卷积和反卷积互相对抗。神经网络的可解释性现在还没得到太多诠释，主要靠经验和试错，所以现行机器学习从业人员也会自嘲调参狗以及调参是玄学。

行为主义又称控制论，是以控制论为起源的，多在交叉学科领域，譬如机器人学、人工生命。这一段讲得比较简略，主要是维纳的一些成就。控制反正也学过，就是输入输出加反馈的系统。所以行为主义的方法就是给刺激、等反馈、通过刺激反馈研究行为特性。自复制机是冯诺依曼提出的体系结构，是机器生命的研究，前些日子突然火起来的青蛙机器人应该也算这一块。

书里提到的一些机器学习方法讲得很不错，是技术人员写的书。最后还有讲最新的发展，并且顺带提了提人工智能做决断的伦理。至于人工智能是否会毁灭地球，安啦，这是弱人工智能，只能做到部分人想要它做的事情。强人工智能才能模拟人的心灵和意识，不是吗？还是等脑科学、认知科学这些慢慢发展吧。

图灵测试与图形验证码的缩写 CAPTCHA 居然有关系。