p139 第二章AGI问题小结

在开始我们思想实验的航程之前，让我们先做个小结来结束本节的内容。将我们自己作为AGI的玩具模型应当被看作是一种尝试——它在最好情况下是不完整的，在最坏情况下根本就太过粗糙——它尝试去分别，哪些对于（在有机物种或无机系统中的）实现一般智能是必要的，而哪些是偶然的，并且尝试去探究，我们对我们认为必要的东西的描述，在何种程度上，的的确确会被现实中偶然的东西所扭曲。这就是说，将我们自己当作AGI的玩具模型的观点，应当能让我们从人类概念中排除掉最后的本质主义残余，并由此创造机会来审视作出一种无偏见的AGI概念构想的可能性。这就是我们延展后的思想实验的核心：得到一个外部视角下的我们，作为AGI的原型——或者更精确地说，一个人工的多能动者体系（artificial multi-agent system）。如果我们能够接受这个外部视点，那么我们的世界在人工智能设计的视角看来将会是什么样子？为了支持自我概念化和自我更新的复杂图式，这些能动者必须拥有哪些种类的基本能力？而这些基本能力对它们的世界会产生什么后果，特别是当它们组合在一起并拥有完全的行动能力之后？最后，检验这个入门级AI——也就是此时此地的我们——实际上是否符合一般智能的资格的方式是什么？
然而，这个由入门级AI的世界所构成的宇宙所不同于我们宇宙的是，它经过了剪裁和变形，以凸显我们需要将通过语言交互对认知的描述整合进来，需要强调言语、语言和交互作为建造人类水平AI所必要的特殊计算框架的作用。这里所展示的研究方法，本质上是研究认知过程的两种路径的结合，即一种可以称之为有限制的、动态的“神经唯物主义”路径（Jean-Pierre Changeux, Stanislas Dehaene等人），以及一种交互的“语义推断主义”的路径（Wilfrid Sellars, Robert Brandom, Jonathan Ginzburg 等人）。同样，这个世界由无数的理论构件所装配而成，它们潜在地是可证伪的，但在装配成形之后，它们就作为一种元理论，为我们提供有关可能AGI的若干重要却并非不证自明的特征的洞见。
（CH2 p139）