第六章 新成员：与众不同的计算机

P170
但是为什么算法决定助长的是愤怒而不是慈悲呢？就算是对脸转评最严厉的人，也不会觉得脸书的人类管理者就是想煽动大居杀。脸书位于加州的那些高管非但对罗兴亚人并无恶意，甚至儿乎不知道罗兴亚人的存在。事情的真相更为复杂，但可能也更令人震惊。在2016-2017年，脸书的商业模式依赖于提升用户参与度，也就是用户在脸书上所花的时间与所做的活动（例如点赞、分享帖子给朋友）。只要用户参与度增加，脸书就能收集更多数据，卖出更多广告，在信息市场占据更大份额。此外，提升用户参与度能给投资人留下好印象，从而有利于推高脸书股价。用户在脸书停留的时间越久，脸书就越有钱。根据这种商业模式，人类管理者给脸书算法定了一个首要目标：提升用户参与度。随后，算法用几百万用户做实验，发现最能提升参与度的办法就是让人愤慨。比起慈悲的布道，充满仇恨的阴谋论更能提升人类的参与度。所以，为了追求用户参与度，算法就做出了一个致命决定：传播愤怒。20
    种族冲突从来都不是单方的错，是许多方面都出了问题，有许多责任方必须共同承担。有一点很清楚，对罗兴亚人的仇恨早在脸书出现在缅甸之前就已存在，而之所以会发生2016一2017年的暴行，最大的责任应落在相关的责任人身上。至于脸书的工程师与高管也该承担部分责任，他们写了算法的代码，赋予算法太多的权力，而没能对它们好好地管控。很重要的一点是，算法本身也逃不了干系。通过反复实验，算法学到了愤怒会提升参与度，而且在没有上级明确指示的情况下，算法自己决定要助长愤怒。这正是人工智能的典型特征一虽然它们是机器，但它们拥有自己学习与行动的能力。即使我们说这里算法只需要承担1%的责任，这也会是历史上第一个“部分归咎于非人类智能决策”的种族冲突事件。而且这不会是最后一次。现在，算法已经不局限于在有血有肉的极端分子创造出假新闻与阴谋论之后，再加以推送传播，在21世纪20年代初，算法已经能够自行制造假新闻与阴谋论。
P180
    在这个事件中，最耐人寻味的并不是勒莫因的主张（真相应该并非如此），而是他居然愿意为了一个聊天机器人程序，不惜赌上自己的那份高薪工作，而且最后谷歌还真的如了他的愿。如果聊天机器人已经让人愿意为它们赌上工作，是不是也可能让我们愿意为它们做些别的什么？在一场争夺思想与人心的政治斗争中，亲密关系是一种强大的武器，而像谷歌的LaMDA与OpenAI的GPT-4这样的聊天机器人程序，正逐渐发展出与数百万人大规模建立亲密关系的能力。在21世纪10年代，大家在社交媒体这个战场争夺的是人类的注意力，但到了20年代，争夺的可能会变成亲密关系。当计算机之间展开一场与人类建立亲密关系的竞争，用来说服人类投票给特定的政治人物、购买特定产品，或是接受某些极端的信仰时，人类社会与人类心理会发生什么变化？如果LaMDA遇上匿名者Q，又会发生什么？
P181
    即使没有创造“虚假的亲密关系”，计算机在掌握语言之后也会对人类的观点和世界观产生重大影响：把这种计算机顾问给的建议，当成一站式的神谕。如果我可以直接要求计算机这位神使提供神谕，又何必花心思自己去搜索和处理信息呢？这样一来，被淘汰的除了搜索引擎，还包括大部分的新闻业与广告业。如果可以直接询问神使今天有什么新鲜事，又何必去读什么报纸？如果神谕可以直接指示该买些什么，广告又有什么用呢？
P182
在一开始，计算机大概还是会先模仿人类的文化原型，编写出类人类写出的文本，创作出类似人类谱出的音乐。这不是说计算机缺乏创意，毕竟人类艺术家也是如此。巴赫的音乐不是凭空创作的，而是深爱前人音乐作品、《圣经》故事与其他先前存在的文化产物的影响。然而，就像巴赫这样的人类艺术家能够打破传统、进行创新一样，计算机也能做到文化创新，创作出与人类以往创作的任何作品都略有不同的音乐或图像作品。这些创新反过来又会影响下一代计算机，于是它们会越来越偏离人类原始的模型，特别是人类的想象会受到演化与生化的限制，但计算机则能够轻松摆脱这些限制。几千年来，人类一直是活在其他人的梦里，但在接下来的几十年里，我们可能会发现自己活在某个高深莫测的智能机器所编织的梦中。
P187
计算机的制造与运行需要消耗大量的电力、燃料、水、土地、珍贵的矿物质与其他资源。目前仅各个数据中心就占了全球能源使用量的1%~1。5%；大型数据中心占地数百万平方英尺‘，每天需要几十万加仑“的淡水来防止它们过热。
P189
这样的论点不是太天真，就是太虚伪。脸书、亚马逊这些科技巨头，绝不只是像忠仆一样满足着用户的奇思妙想，遵循着政府的法规，而是正在越来越多地塑造着这些奇思妙想与法规。这些企业不但能直接联络到全球最强大的政府，还能投下巨额资金进行游说，以阻挠那些可能破坏其商业模式的法规。比如，它们曾经极力维护1996年《美国电信法》第230条，该条款规定线上平台无须对用户在平台发布的内容负责。正是这则条款让脸书无须在罗兴亚人冲突这件事上负责任。2022年，几家科技巨头在美国的游说费用接近7000万美元，在欧盟各国的游说费用更是高达1.13亿欧元，比石油与天然气公司及制药公司的游说费用还高。？各大科技巨头也能直接影响民众的情感系统，而且它们还是操控用户与选民想法的大师。如果说这些企业都听从选民与用户的意愿，但它们同时也能塑造选民与用户的意愿，那么究竟是谁控制了谁？
P191
如果各国政府还是想对这些交易课税，就需要重新思考一些最基本的概念，比如“链接性”（nexus）。在税务规定上，“链接性”指的是个别实体与特定司法管辖区之间的链接。传统上，要判断某个企业是否与某个特定国家有链接性，就要看该企业在该国是否有实体存在，例如设有办公室、研究中心或实体店面等。想要解决计算机网络造成的税收难题，一种方法就是重新定义链接性。经济学家马尔科·科腾伯格就说：“目前对链接性的定义是基于在一国的实体存在，这有必要改变，我们应引入数字存在的概念。”8也就是说，即使谷歌与字节跳动在乌拉圭并没有实体存在，但基于乌拉圭人会使用其线上服务这一事实，也必须在乌拉主纳税。壳牌与英国石油公司只要在某国开采石油，就会向该国纳税；同理，科技企业也该向它们采集信息数据的国家纳税。
P192
    货币应该是一种被普遍采用的价值标准，而不是只适用于每分线的价值象征。随若越来越多的东西的价值以信息来衡量，而从货币来看却都是“免费”的，在某种程度上，如果还是只看个人或企业销有多少美元或比索来判断他们是否富有，是无法反映现实的。如果一个人或。家企业在银行里没什么钱，但拥有庞大的数据库，这个人或这家企业有可能才是该国最高有或最强大的实体。虽然理论上也可以用货币来鱼化这些信息的价值，但并不需要真的把这些信息换成美元或比索。既然具用信息就能换到他们想要的东西，为什么还需要美元呢？