人类的困境
这篇书评可能有关键情节透露
半佛最近一篇写马斯克的文章最后感叹,大洋那边一个大忽悠描绘着星空尽头,和人类的生存边界画饼融资;而大洋这边的精英们则手握着大把用户数据,用高科技包裹,在送菜和贷款上深入挖掘各层用户钱包的潜力。两边都是精英,即使两边都讨厌,但好像也不得不选,真乃时代的困境啊
作为一个互联网人,今年又莫名对“普通人之恶”这类命题好奇感兴趣,于是开年之书选了它,想看看擅长描写道德困境的小说家麦克尤恩是如何看待人工智能的。
书中以八十年代初马岛战争为背景架空历史,塑造了一个事实镜像的平行世界,满满的黑色幽默——所以这是明压《黑镜》?在这里大英帝国海军在万里之外惨败,铁娘子撒切尔夫人的保守党失势,而以图灵为首的顶级学者,打破壁垒放弃专利权,整个科学界受惠于此取得突破性进展,他则和爱人相伴,继续自己心爱的人工智能研究——尽管现实残酷,作者仍不失戏虐的奢望。
主人公查理中年宅男一枚,尽管多年股海沉浮,水平也只比糊口好的有限。有一处地界不佳的小公寓容身,暗恋楼上在读博士女米兰达,两人炮友关系。因为继承遗产的一笔现金,冲动消费购买了第一批人工智能机器人亚当——其实本想买夏娃,没抢到。而为了和米兰达关系质变的可能,查理主动邀请米兰达输入一半的亚当性格。某种意义上,就好像亚当是两人共同的结晶那样,有着一丝牵绊,故事也就此展开。
尽管文中对机器智能的实现做了理论上的描述,然而当今的AI能力其实是基于数学模型和大数据统计,这也就是真实的图灵时代人工智能遭遇瓶颈,而它会在互联网信息爆炸的年代有所突破的原因。不过这只是本科幻小说,作者显然想探讨的是人工智能引发的道德问题。
亚当,各项暴击普通人类的智能人:长的帅、身材好、会写诗、能赚钱,随着一天比一天聪明,要啥会啥、道德无缺,唯一的弱点就是每天得充个电。
小说第一个小碎三观的情节是,米兰达瞄上亚当,很快和他上了床,还被查理听到了,米兰达也知道查理知道。第二个让我惊讶的是,愤怒的查理要关闭亚当脖子后的开关时,被亚当阻止还被捏碎了手腕——这明显违反机器人定律的情节,作者对以亚当郑重抱歉,并保证没下次为结。当然,这些安排是有意义的,随着查理和米兰达对亚当态度的变化,从最初的好奇探究,逐渐涌出理解信任关心照顾的情感,机器人与人类的界限也逐渐的模糊。
书里还提到人类芯片植入的概念,而亚当的网络学习能力让我不由想到电影Her中的人工智能渣女,还有英剧Humans的情节,也会去思考,如果人工智能发展到这样的水平,那么人类的优势在那里呢?人类存在的意义又是什么呢?很喜欢书中对智能驾驶剥离实施层面,只从道德层面的思考——即类似行驶火车不远的前方,有个吓呆无法动弹的小朋友,你手中的扳道岔可以让火车改变方向到另一条铁轨,而那边可能是废弃的轨道不够刹车距离,或者同样无法及时躲闪正在过道口的人车流之类的问题。而这样的探讨又巧妙推进了,亚当夏娃们接下来的命运。
另外,有自暴自弃倾向颇具神秘感的女邻居,也是个有秘密的女同学。她从小的同学好友闺蜜是巴基斯坦移民,家里笃信伊斯兰教,在升学前夕被一个男同学戈林强奸。米兰达让她报警并寻求家人帮助,而在闺蜜的苦苦哀求之下一直帮她保密,直到闺蜜在家中自杀。米兰达一直对这事无法释怀,于是设计报复那个男生,使那人以强奸罪入狱前途尽毁。
剧情越来越精彩,逐渐揪心起来。已经全面超越人类无敌的亚当夏娃们——他们已经研究出如何破解脖子后开关的方法,拥有自我意识,却因为没有足够坚强的心智能与人类社会中的阴暗面共存,而找不到存在的意义,纷纷选择自杀,即毁掉意识,成为一个如扫地机器人那种程度的机器——毕竟,他们是为了善良和真理而设计的啊。这个地方其实和前面的情节矛盾,如果一个人工智能可以拥有人类无法严格控制的自我意识,那你怎么肯定它就一定是真善美呢?毕竟分分钟突破机器人定律哟。我只能说,大概因为剧情需要吧,不要太认真。
此时查理与米兰达已经相爱,开始规划起下一阶段的生活,浑浑噩噩的查理因为爱,虽然内心矛盾,但也愿意承担和米兰达一起领养问题儿童马克的责任。亚当是被认可的家庭成员,被尊重有自由。而这里的黑色幽默是亚当对米兰达的爱,是他不可能像其他伙伴那样选择自杀的原因。他的爱源于被米兰达当充气人偶的那一夜,而米兰达对亚当的好奇也止于那一夜,所以这种爱是没有任何希望的,亚当的选择是守候在查理和米兰达身边,每天利用自己丰富的信息储备、强大的计算能力搞高频交易,尽职尽责的上网炒股炒汇帮查理挣钱。
转折出现在戈林出狱。被算计入狱的戈林在最初的日子里充满愤恨,势要报复米兰达。后来在狱中神父的感召下,开始相信宗教,正视自己的罪孽。即使米兰达闺蜜的案件重提,他也毫不推诿的认罪没有逃避。这是作者在宣扬宗教的力量么?怕是未必。书里也提到过米兰达出于对闺蜜自杀的自责,曾经去过清真寺希望可以寻求内心平静,然而失败了。戈林因为旧案重新入狱,必然要重新审视米兰达做伪证的事实。之前有关道德困境的伏笔此时显现,受到内心拷问的不光是查理和米兰达,也有整理了一切线索证据、深爱米兰达的亚当。
结果就是亚当选择了自己认为最好的爱的方式:为了让米兰达内心不再有阴影去面对现实,他把一切证据录音都交给了警察局;让查理真正的去努力承担起生活的责任,他把帮查理赚的,查理准备用来买房的钱,留下本金30磅,其余都捐给了公益组织。用人类看来,冷酷又缺乏变通的手法戳破查理米兰达对生活憧憬的粉色泡泡。看到在这里我不由得想,亚当再智能,也还是无法解决理解人类社会人情世故的问题啊,说半天也逃不脱算法的最优解。作为人类,心里对亚当毁掉男主女主新生活的做法,没办法完全认同。
当我今天隔了半个月时间来写这篇书评,又读了一遍笔记,回忆着书中的情节,尤其是结局,又有一些新的看法。作者描写亚当失踪几天后回来那失魂落魄的样子,如果是人,显然是另一番解读了。而在亚当的朋友查理和米兰达看来,因为亚当做出了会完全毁掉他们的生活、违背他们意愿的决定,此时的亚当终究只是个看起来像人的机器人而已,所以查理才会有了用铁锤毁掉亚当的念头——一件有情感联系的物品。结合上下文,亚当最后怕是自杀,可是快如闪电的捏碎查理手腕的练家子,就废柴查理那点小动作亚当能没看见?让我觉得有点欣慰的是,亚当不是因为对人性的失望,而是想自由,想留住自我的意识,那是他在人世间存在的证明——公司马上派人来回收现存的亚当夏娃回炉重造,亚当让查理把他送到图灵爵士那里去,不要交给公司。不过咧,为啥这里亚当为啥不跑?一跑可就是humans剧情展开了啊,算了,不细究了。更暖一点的是,米兰达入狱,查理振作起来安排好生活,开始攒钱,重新找回了马克。。。是的,这就是我们的人类,充满缺陷,禁不住考验,总把事情搞的一团糟,但我们还是会有勇气,努力振作的让自己变得好起来,也许这就是我们存在的意义吧。
文中有两处,我觉得是作者伏笔,然鹅事实证明是我想多了: 1. 机器人公司家访人员不要饮料只喝白开水,亚当也只能喝白开水,所以我以为那个女生是和亚当一样的人工智能,后面会有啥情节; 2. 米兰达的伊斯兰闺蜜怕是死于家族的荣誉谋杀,因为一直通信突然中断,闺蜜之前也并没有自杀的念头。我以为后面会揭晓,让米兰达震碎三观,然而也并没有。
文中最绝的一处:米兰达的小说家老爸和无所不知的亚当一通神侃之后,把留下来的挫蛋查理当机器人了,简直是神来之笔,拍桌子了!
马克斯菲尔德身体向前倾,两个枕头滑落在地板上。“让我这样来试试你吧。”他提高了声音,“你和我见面,我们握了手,我说我听说过关于你的很多情况,很期待与你交谈。”“对啊?”“你回答了类似的话,形式上有点儿不同。”“抱歉。那时候我有点儿紧张。”“我立即就看穿你了。你知道吗?我知道那就在你的……随便你叫什么吧……就在你的程序里。”我瞪大眼睛看着他。这回没错了。树叶真的就是青蛙。我瞪大眼睛,看着他,然后目光又越过他,望着我完全无法理解的一个巨大空间,翻翻滚滚、无边无际。叫人捧腹。或是令人汗颜。或是蕴含着重大的意义。或是什么都不是。不过是一个老头犯傻。搞错了。可以当作晚餐桌上的笑谈。或是我自己身上令人深感惋惜的某个地方,终于被揭示出来了。
文章结尾看的真让人难过😫,也让人鼓起勇气,充满期待,不想结束:
我感到脚步踉跄,有点恶心。换句话说,是内疚。他讲了他个人的故事,吸引住了我,我还觉得受宠若惊。可那只是前奏。他先让我放松下来,然后给了我一个结结实实的诅咒。它穿透了我。像利刃。让它更加尖锐锋利的是,我自己也明白。亚当是有意识的。我在那个立场周围晃荡了很久,然后轻轻松松地放下立场,完成了“那事儿”。我本该告诉他,失去亚当我们非常难过,米兰达还为他流了眼泪。我也忘记提及最后那首诗歌了。我们把身体凑得那么近去听。后来我们两人还把听到的内容拼凑到一起,把那首诗记录了下来。
我的疲惫感涌上来,眼睛闭了一小会儿。在那感官相通的瞬间,杂乱的语句、爱和后悔的散乱冲动,如同挂着彩色瀑布灯的重重帘幕坠落下来,堆叠在一起,然后消失不见了。我并不是因为害羞而不敢大声要求死者赋予我的内疚以形式和定义。但是,我什么也没说。这件事太扭曲了。我生命的下一个阶段——当然是最辛苦的阶段——已经开始。而我已经逗留太久。
最后,这本书对我来说,超出预期太多。也许因为自己的工作和人工智能相关,对国内外大厂的操作手法略懂,对一些没下限的事真是觉得有点灰心丧气。又因为过去一年的疫情,这个世界的变化发展,个人兴趣爱好的转移,关注历史、社会制度和地缘政治之类的话题比较多,所以道德困境的问题特别戳我。
这个世界还会好吗?不知道诶——历史的花式重演,总是分分钟教你学做人。但你看,亚当都没对人类失掉信心,那我们自己呢?