愿你能找到你的嘀嗒

读双翅目《公鸡王子》
双翅目写得很慢,后记里提及这篇小说写了一年。慢工出细活,所以,她的作品不好读,(至少读三遍才行,第一遍读写了什么,第二读怎么写的,第三遍思考怎么写会更好)全文充斥着大量的地理名词,逻辑推理,及其各类奇思妙想。
事实上,我不愿将《公鸡王子》定义为科幻小说,反而更愿将其视为一篇关于人类如何接受信仰的诗意论文。(小说中,格雷厄姆教授认为人的信仰是靠顿悟产生的,但是陈陌认为未经反思过的信仰是不可信的。在此基础上,前者为了论证自己的猜测,直接拿“机器人三定律”植入儿童大脑内,举个不恰当的例子,就是让你觉得自己不是人,而是机器人。这个设定让我仿佛联想到大型电视剧中,魂体交换的场景,但是作者却将此写得格外诗意又格外深刻。OMG!)
接着问题来了,一个无法完成镜像认知的儿童保罗接受了机器人三定律,
会如何?首先他会不认识自己的妈妈,因为妈妈是人类,而他觉得自己不是人类,是机器人,所以……呜呜。
其次,当人类与机器人发生争执时,机器人三定律要求宁愿牺牲自己,也要保护人类,可是失去了自我认知的保罗现在到底是机器人,还是人类呢?
另外,在小说中,作者为何将格雷厄教授的该行为定义为反人类,实际上,我觉得她是在暗自讽刺人类社会的极权主义。小说中有写:
「宗教是信仰,信仰不一定是宗教。如果人工智能在认知上判定人类比它们强大,因而不加反抗,尚可理解。但如果人工智能判定人类弱小,为何还要在逻辑上服从人类?这便是信仰植入的起点和道德立法的原则。我们须让它们相信,人类不可违抗。这种相信,必须高于逻辑的判定,甚至高于逻辑判定的起点,是一种超越了三段论的大前提的存在。让人工智能所有符合逻辑乃至不符合逻辑的行为,都无可违背这种相信,这就是植入信仰。 」
「真正的信仰是什么,难以形容。但我这里说的信仰不难理解。让人,或者说让一个拥有智慧、智能的生物成为信仰的奴隶,这并不新鲜。对神的疯狂祭祀、对独裁者的极端崇拜,历史上比比皆是。获得这类信仰,就如同获得了修补逻辑漏洞的强力工具,能将世间万事归入他的信仰体系,绝不违背。我认为,这才是人类所希望的,造物主为人工智能所建立的道德准则。」
试想一下,人类在发明人工智能的过程中,有资格将阿西莫夫的机器人三定律变为现实吗?不管人类作何决定,机器人都要保护人类?这种设定本身是不是就值得深思?
好了,反正小说中格雷厄姆这么对机器人了。那么问题来了,人类对机器人打着宗教名义实行霸权统治,你何必这么也对人类自身呢?所以,小说中,苏特大法官审判中提问:“如果格雷厄姆为人工智能植入‘三定律’信仰,是为了利用类似宗教的心理机制或道德条例控制机器人,那么,他为什么又要将‘三定律”植入保罗·莱克特的头脑?”
下面重点来了!!!全书以法庭审判的对话形式来写,卧槽,我仿佛看到了现代版的《宗教大法官》,直接贴对话如下了:
“撇开格雷厄姆的道德动机不谈,我认为,在科学意义上,他在进行一组对照实验。当人和人工智能的神经网络一致、思维水平相同时,往他们的大脑中植入的信仰,不论内容如何,应该是双重有效的。因而嘀嗒和保罗·莱克特互为对照组。他们之间,唯一的变量是:一个是人,一个是人工智能。在其余方面,他们神经网络发育一致,思维水平相近,植入的信仰——1三定律’的内容一致。如果成功,他们互相认同,格雷厄姆通过黑色头盔发明的‘信仰植入’才算真正成功。 (哈哈哈,我怀疑作者还研究过实验心理学!)
“格雷厄姆不是有神论者,否则他不会尝试用科学的方法处理‘宗教启示’的过程,研制‘信仰植入’的技术。所以,他的目标不是让人像神一样,为人工智能建立信仰,而是像千百年来,人为了奴役人那样,建立虚假的、极端的信仰。所以他说人早就在为人建立信仰了。这便是来自战争与恐怖袭击的信仰。
“虽然黑色头盔被毁,但可以相信,格雷厄姆成功了。他的前提是将人工智能与人类的神经网络等而视之,所以‘信仰植入’的原罪,不在于其技术来自残暴的战争或恐怖袭击,而在于它适用于人类本身。保罗·莱克特就是活生生的例子。我们终于从物理层面、从生物层面找到了利用技术奴役思想的手段,这是千百年来统治者梦寐以求的技术。
“所以,我认为,格雷厄姆的原罪在于他利用人工智能,证明了通过技术手段,人可以强制性地将信仰植入另一个人。格雷厄姆案最为根本的诉求,应是从保护人类权益的方面,对‘信仰植入’的技术,对以后可能发展出的技术加以限制。
“这才是美国思想与言论自由的根本。
克劳福德说完,法庭一片寂静。似乎有人想鼓掌,但终将手收了回去。
苏特大法官若有所思,继续问:“你说,保罗和嘀嗒是对照组。那么,鲁尔公司其他的战争遗孤和人工智能呢?”
“检验‘三定律’是否成功,需要让保罗相信自己不是人类而是机器,才能构成真正的对照组实验体。这是认知层面的问题。中国‘勿用’的陈教授已提交报告,认为格雷厄姆将保罗的‘信仰植入’和‘身份认知’问题分开处理了。我认为,‘认知问题’在这里不是重点,保罗被领养时,就有自我认知和他者认知的障碍,格雷厄姆巧妙地利用了这一个案,才让保罗成为嘀嗒的完美对照组。至于战争遗孤,他们虽被植入‘三定律’但自身定位为人,在‘三定律’内容中,处于较高阶级,不将自己与机器等而视之,无法进行对照组比较,也不会对他们日后的生活产生多少影响。
精彩!!!
小说结局是个极大的反转,就是格雷厄姆以表面犯罪的方式来告诉人类,假设有一天人类与人工智能真的存在神经网络一致,那么机器人将拥有同样的信仰与情感,似乎也应享有同样的人权,不是吗?
这太美好了。康德在《什么是启蒙运动》里提到,启蒙就是个体或者人类整体,能不经别人引导,就利用理智摆脱加之于自身的不成熟状态。本书中的保罗是通过陈陌的帮助找回自我认知,滴嗒却是通过爱的反思和思考来找回自我。
PS:小说中的四勿猴形象常常让我联想到莎士比亚《仲夏夜之梦》里的波顿,用布鲁姆在《剧作家与戏剧》中形容波顿的话来形容四勿猴再好不过了:“尽管被迫克捉弄变成了驴头人,但他依然勇敢、善良、幽默,就算遭遇了如此奇异的经历,内心却完全不曾改变。”四勿猴尽欢被陈陌规定要四个在一起才完整,它们却并无怨言,“你知道为什么我们四个一直很快乐吗?因为四个一起,才构成完整的自我,所以我们单独的个体,永远都很快乐。可以不用反思,不用信仰,不用自我,做一只快乐的动物。但为了人类,为了四勿动物,为了你,为了保罗,为了陈陌教授,我们愿意一直在一起,一直反思,一直慎独,一直不断地构建着我们四个的自我。”