未来如何升级大脑

一

加来道雄说，世界上最大的两个奥秘是宇宙和人的意识。不可知论者或许会以为，我们永远无法知晓其中的秘密。如何证明是不可知呢？Colin McGinn在《神秘的火焰》里说我们永远无法理解意识，他推测意识来自一种特殊的物质属性，大脑组织激发了这种属性；而我们的智力从客观角度看不到这种属性，从主观角度体会不到这种属性，所以这种属性对我们来说永远是未知的。当然，他的推论前提是错的，意识是复杂系统的产物。不过，McGinn在书里反驳了复杂性会产生意识，他提出两种论据，其一是其他器官比如胃也是一坨细胞，怎么就没产生意识？这只能说明，不是说一坨细胞就可以，心脏也是一坨细胞，怎么不会消化食物？说明具体的组织不同，造成的功能不同。第二个说法是，如果把一堆奶酪组织起来，也会产生带味道的意识吗？对此的回答是，组织不是简单的空间结构，对组成结构的零件也有更多的要求，就像你用木头造一辆汽车也跑不起来。McGinn自己提到“神秘的火焰”，说原始人看到木头燃烧产生火焰并变成灰烬感觉很神奇。他们或许也无法知道，如何有一天会理解了火的现象。就像McGinn自己所说，这是我们的认知缺陷，但并不封闭。就像面对一到你不会做的题目，你不知道是否有解，或者你知道一定有解（不然不会出现在作业或试卷中），但是你不知道是什么。从知识史来看，我们最好持可知论，不是为了什么好处（推动认知），而是逻辑上应该如此。

去掉猜测的成分，沿着已知，自然就会想先弄明白大脑的工作原理。从事后的角度来看，弄明白了大脑，也就不需要猜测意识来自哪里了。加来道雄提到几种对大脑的比喻，先试看作一种机械，比如钟表，这是机器时代的比喻，然后是看作计算机，这是智能机器时代的产物。加来道雄说，最新的比喻是互联网络。但是他自己独爱一种比喻，即把人的头脑比作一个庞大的公司，有许多的层层机构，信息最终处理、流动到首席执行官所在的指挥中心，做出最后的决定，用于解释大部分解释都是潜意识完成的，意识具有决定权，信息处理存在模块之间的竞争等。这个最高指挥所，看上去是位于左脑被Gazzaniga称之为interpreter的东西，至少它会讲话，是大脑的发言人。但是，从割裂脑的人身上看到的情况显示，右脑也能够独立产生意见。加来道雄提到一个例子，左脑声称自己是无神论者，但是右脑却表示自己信教。Ramachandran给出一个可用于来说明肉体灵魂二元论的说法：这个人死了，是否左脑去地狱，右脑上天堂？

加来道雄自己提出一种对意识的定义，认为意识是生命体发展出的一种功能，即创建一种关于世界的模型，用于实现生存和繁衍的目标，他称之为space-time theory of consciousness。他还把意识分成四个等级，第零个等级的意识来自静止不动的物体，比如植物和空调。会移动的生命体的意识为一级，而二级意识，是社会性生物的意识，用于社交，人类的意识为三级，能够对未来进行模拟，通过预测可能的结果来做出判断和选择。我觉得这四个等级是一种经验上的、直觉上的区分，并且不觉有很好的区分性。比如说，会移动的智能机器是否也是被看作零级意识？和一级会移动的生命体生命体区别在哪里？如果说三级意识是能模拟未来，如何看待能够有限计划未来的猿类和乌鸦等的智能？加来道雄还说，随着意识等级的提升，回路数增多，因此需要一个首席执行官来解决回路之间的冲突问题。这个看法我认为是错的。他举例说，比如雄棘鱼有两个回路，一个是攻击侵入自己领地的闯入者，一个是向雌性求爱。如果我们把一条雌棘鱼放入雄棘鱼的领地，就会同时触发这两个回路，结果雄棘鱼又求爱又攻击；给老鼠提供食物，同时给他通电，一去吃食物就电击，也导致老鼠的在吃食物、躲电击之间的徘徊不决。加来道雄说，就像布丹驴，在两个回路之间陷入僵局，在两个草堆之间饿死。但是，这并不需要一个首席执行官，而仅仅需要引入一个新的回路。对于驴来说，引入一个抛硬币的回路就行了，而且自然确实已经引入了这种回路，所以没有一头驴因此饿死过。执行官是一种更高级的功能，是功能增长导致能够灵活模拟，相比之下，所有的反馈回路都是机械和僵化的，正是在棘鱼和老鼠身上所表现出来的。

二

如果说，人的意识是大脑神经活动的产物，那么我们就能从脑神经的活动方式上，推测出一个人意识的全部内容。这恰恰是McGinn认为不正确的观点。McGinn说，打开大脑，看到一坨，看不到意识。就是能看到神经放电，看到组成神经细胞的分子、原子、夸克，一路看下去，怎么都看不到意识。我称之为原生智能的巫术思维。从对大脑的研究上看，大脑的神经活动对应意识，或说意识对应了大脑的神经活动。那么，我们观察到了大脑的神经活动，我们也就知道了一个人产生了什么样的意识，无论这个人自己是否能够清晰意识到，因为我们还能知道潜意识里面隐藏的个体自己所无法知晓的暗流。这引发了许多种的后果。

意念操控。既然我们的脑子里的想法，对应了大脑的神经活动，我们就可以用技术手段把这些信号传导出来，变成指令，就能用于操控各种机械。这其实一点也不神奇，因为我们的大脑活动也把这些信号传递为我们的四肢，我们的四肢按照这些指令完成对应的行为，现在不过是把指令传递给另一些能够执行命令的工具而已。如果用在智能机械身上，比如一个建筑器，我们可以想“造一个房子”，这个机器就滴滴嘟嘟去造一个房子，如果我们想“造一座兵营”，这个机器就去造一座兵营，就实现了电脑游戏中的情节。

心灵感应。加来道雄说，战场上，炮声隆隆，子弹横飞，大家说话不方便，戴上脑信息传输头盔，两个人就可以直接传递脑信号，不用通过嘴巴喊来交流了。我想到的一个例子是，两个人去偷东西，一个人在里面头一个人在外面望风，有情况了不能喊，用大脑直接发信号给对方。我觉得这是没有意义，这相当于升级了交流的手段而已。毕竟，我们不能把两个人的大脑，就像两个人裸体相对那样呈现给对方。也就是说，不能把一个人脑内所有的想法一览无遗呈现给对方，不仅没有需要，甚至是有害的，因为我们不是要监控别人，也不是要跟别人进行事无巨细的交流，甚至一般来说是很无聊的，或不利于营造和维持两个人相互的好感。我们仅仅想传递部分想法，比如我们中午一起出去吃饭，吃什么呢？你看看我，知道我心里想的就是你心里想的，我也知道你心里想的就是我心里想的，我们相视一笑，多巴胺开始分泌。我们要的不是心灵感应，而是共同的心跳。

人体改造。现在，我们能把脑信号传输出来，变成指令来操控机械，那么我们不仅能像玩游戏那样操纵一个替身在战场上、游戏场里体验刺激，还能直接改造我们的身体，甚至大脑自身。一方面，我们可以把我们的身体外接机械，就像我们操控工具那样。按照Miguel A. Nicolelis在《脑机穿越》中的研究，大脑有能力把我们操纵的机器囊括到身体的边界之内。也就是说，一个开车的人，大脑会把车看作人体的一部分，所以好的车手，不仅开车的时候人车合一，在狭窄的地方停车倒车也不怕，因为她能对车距有一个清晰准确的感觉。身体可以机械改造，或者是生化改造，给身体加零件，或者是直接把身体替换掉，换成机器，有点像是《终结者》或《X战警》中的情节。操作替身，有点像是《环太平洋》中的情节。并不用像Matrix那样，身体插管子来制造一种幻觉，控制心灵也不用，直接控制人的大脑就可以了。也就是说，另一方面，可以直接升级大脑，下载一些apps安装，比如下载“钢琴家”，安装之后你就钢琴10级。或者“飞行员”、“编剧”、“大厨”，任你挑选。你可能会担心还有会其他一些apps，比如“黑客”、“偷车贼”、“武林高手”、“连环杀手”这类，但担心这些不如担心你下载的apps留了后门或被人植入了病毒，偷偷监控或操纵你的大脑。或者，如Yuval所说，上层人给自己安装“领导”app，强制百姓安装“顺民”app，消灭掉所有卑劣的统治阶层不想听到的声音，让所有人都一致呐喊“要爱国爱党”、“政府没有隐瞒”、“不要分裂民意”、“美国居心不良”。这些流氓真是让人气愤。我不是民？我的想法不是民意？如果你和我说法不一样，你是不是在分裂民意？为何看法跟你一样才是不分裂民意？

三

对大脑动手，带来了多种可能。我们的自我，实际上是靠记忆来建立的。我之所以是我，你之所以是你，是因为你我有不同的成长经历。我们的经历变成记忆，存储在我们的大脑里。我们根据这些记忆，每天早上醒来不至于问：我是谁？我为何在此时此地？那么，改变了我们的记忆，也就改变了我们自身。如果把你的记忆给我，我的记忆给你，你就会认为你是我，而我也觉得我是你。我以前曾经考虑过一个问题，即如果传递一个人的感受给别人。比如说，你看一场歌剧，能感受到其中的美；我土鳖的素养让我觉得昏昏欲睡，那么如何把你的那种高级体验传递给我，让我也体验体验？现在，或许就可以把你的这种体验或记忆提取出来，注入我的大脑，我就获得了和你一样的体验。这简直让我怦然心动。我们还可以把各种类似的记忆或体验，保存到图书馆。然后，你就可以从网络图书馆（不用上街）浏览和下载各种不同的体验或记忆，去北极撸熊，南极撸企鹅，赛车手的狂飙，热带森林的冒险，what it is to be a bat，你撸你家猫的时候猫的感觉，历史人物的经历，一个人可以有无数的体验和经历，过一辈子就像过了100辈子。你心动了吗？

当然，这也给自私的权力拥有者以机会来控制没有权力的大众。前面提到给他们都装上app，不用每天学习、得分，也不用每天回报思想，因为你的思想都在监控之下，甚至你不知道的潜意识思想都已经被党知道得一清二楚。Yuval提到一个智力改造过的神族，无论是通过基因工程，即先天发展出天赋，还是后天通过生化工程，即在脑袋里再装几个处理器、存储芯片，甚至还有一些高级装备，比如控制心灵头盔。不过头盔似乎不够酷，要做成眼睛或耳环，也仅仅是为了装饰之用。Yuval说，这些权力者通过改造自己的基因，还变成了不用锻炼就身型健美得比宇宙先生还好看，女性性感得比世界小姐还诱惑，男女都美丽得比ps出来的效果还更胜一筹。我们不妨停下来想想一下，这类Yuval的homo deus会是什么样子。这些人在智力上能够轻松胜过底层大众，给大众洗洗脑，换换记忆，不用删除网上的帖子，直接删除掉个体脑海中的不良念头，直接删除掉对应的记忆，比《黑衣人》厉害多了，每个人的脑海中，都是老大哥的伟大、光荣、正确的事迹，老大哥如何用一个小石头打下敌人一家飞机的感人故事，没有任何关于引蛇出洞、文化革命、武汉疫情相关的丑态，完全都是抵抗境外不良势力、和蔼可亲竟然亲自按电梯、救了命而不是渎职害了很多人命的满满的正能量。

值得一提的是，人的意识似乎可以从炭基转移到硅基。前面已经谈到，躯体可以替换成机械装置。现在，人的大脑结构和运作方式也可以模拟出来，或者说是把意识复制出来。这意味着，通过复制，可以让一个“人”永生。你不需要你的身体才是你，你仅仅需要你感觉是个人，自己独立存在。按照Nicolelis的说法，人会很快适应自己的身体。在一系列实验之中，人们会把眼睛看到的橡胶手臂、别人的身体，误认为是自己的身体。简单来说，就是人实际上是在大脑中启动一个进程，由这个进程来标示出“我的身体”或“我的什么东西”。根据你的大脑获得的信息，在计算之后，这个进程会让你认定一个物体是否是“我的”。给你换一个机器身体，你刚开始可能觉得震惊，但是你活动活动发觉还挺好，甚至比你原来那具躯体还好，你甚至会嫌弃原来那具躯壳，喜欢上这个新身体。那么是不是所有人都有机会长生不老呢？当然不是，只有被请参加仙桃宴的人才有机会，你妖魔鬼怪想长生不老就得动歪心眼儿，不偷仙丹就得吃唐僧肉，还可能偷鸡不成蚀把米，没有后台的你这个妖精可能就会被消灭。

四

那么，我们能否制造出带有意识的机器人呢？一直有人担心，以机器人的智力发展，将会很快超过我们，比如AlphaGo，那么会不会机器人统治世界，把我们变成他们的奴隶呢？首先要回答的问题是，机器人为什么要奴役我们？很多人是直觉上担心被机器人奴役，这是人的一种本能上的担心，什么本能呢？即认为个体都是自私的，都为自己的生存繁衍为目标。这是一种正确的本能，因为每一种动物、每一个人天生都是如此，尽管后天有些人变得宽容、友好和善良。就像我们天生有一种推测意图的本能，以至于我们不由自主也把这种意图用到动物、植物甚至其他自然现象身上，比如认为打雷下雨、瘟疫肆虐是神的忿怒或惩罚，我们也觉得“机器人”如果强大了，就会剥削我们。这是一种误解，机器人并没有奴役人类的动机，因为至少目前为止，它们没有“利益”要获得，不是要争夺金钱、名誉、地位，也不是要抢占性资源，因此并不会奴役人类。

电影中通常会有一种别样的设定，即让机器出于“保护人类”的动机奴役人类。什么意思呢？就是说，机器被来被设计为保护人类，后来发现人类之间相互残杀，于是为了“保护人类”，把所有的人类都隔离监禁起来，好吃好喝好招待，但是不让人们相互之间接触，以免争吵打架或战争。这当然说不上是奴役人类，当然这种“人工智能”机器人更像是“人工智障”机器人。实际上更应该担忧的是技术上的失控，比如说研究病毒，进行人工改造为强力病毒，没想到人为疏忽或出于自私之心而造成的banality of evil，带来了大规模的疾病流行。当然，完全可以不是病毒，而是某种修缮细胞的纳米机器人，这种机器人或许会出错，或者这种机器人被某种meme病毒侵入，导致机器人做出某种破坏行为，人类被干得屁滚尿流，当然，如伯里克利在公民大会上所说，“我所害怕的，不是敌人的战略，而是我们自己的错误”，我们应该害怕的，不是病毒，不是病变的纳米机器人，而是我们人类群体中那些为了自己的私利犯了错误，甚至做出banal evil的那些人，他们为了自己的官职，为了减刑，为了发文，总之为了某种自己的一己私利，害死了更多的人，就像武汉肺疫。

当然，如果能够造出意识，或在机器人身上造出感情，那么就给了机器人以新的动机。机器人自身，并不必然，但是有可能会趋向快乐，躲避痛苦，就和人类和其他动物一样。当然，到这里问题就复杂了，因为就人类和其他生命体而言，快乐和痛苦是和获得进化利益相关的。就人的本能来说，获得了金钱、名誉、地位，人都会感到快乐，反之则痛苦；同样，进化涉及竞争，因此看到对手得利或胜利也会痛苦，但是看到对手倒霉或失败，则会让人感到快乐。就像奥运会上，铜牌获得者会比银牌获得者更快乐，因为银牌获得者会想着自己差一点就可以获得金牌了。甚至不用是对手，当我们比邻居开得车差时，我们就会很痛苦，反之则很开心。那么在智能机器上，这种和快乐与痛苦相关的原则将决定机器人的行为。那么，会在机器人身上写入一些什么样的算法呢？当然，问题首先是如何在机器人身上引入意识，或引入感觉。这是我最近一直的困惑，即人的感觉是通过什么样的机制实现的？很多人提到一种“僵尸”，从外表看，这种僵尸有和人类一模一样的反应和行为，但是内在没有意识、没有感受，只是会做出和人类一样反应的僵尸。我现在以为，这种设想是错的，和人类一样，应该正是通过意识来实现的。换句话说，感受相关的意识是一种编程，这种编程实现了我们的反应和行为；如果认为僵尸也能和我们反应一样，那么就是在说，还有一种无意识的机械的编程方式，能够实现同样的反应和行为。我认为这个想法很可能是错的。就像如果说，近看是头驴，远看像头驴，全身都像驴，内脏也像驴，那么别怀疑了，就是头驴。

加来道雄以为，机器没有在思考，只是一种机械的反应；而人类在思考。这实际上是在重复John Searle所说的，机器没有感受，机器也不会在semantic level思考，而只是一些syntax操作。Searle还说，我们“知道”操作的内容，计算机不知道自己操作的内容，它实际上在操作0、1电路。我以为这个设想是错误的，因为计算机不可能知道，计算机没有“自我”，就像一块石头不知道“自己”是块石头，因为它既没有去“知道”的东西，也没有“自己”。给计算机植入对应的程序，它就也“知道”了。至于semantics和syntax，我以为只是层级的问题，不是本质的区别。当然，至于感受，我还没有弄明白。