“人都会犯错，但坚持错误则是一种邪恶。”

《智人之上 ——从石器时代到 AI 时代的信息网络简史》
[以]尤瓦尔·赫拉利
31个笔记
点评
◆ 2024/12/30 认为好看
今年完成了尤瓦尔四部曲阅读，认知带宽更新度又增加了一些，可惜第四部未看原版，删减过多，还是需要找原版或繁体版再补一下信息。
序言
◆ 力量从来就不是个人努力的结果，人类的力量总是源于大批人的合作。
◆ 智人正是靠着发明与传播各种虚构故事、幻想和大量的错觉——内容可能关于神祇、魔法扫帚、人工智能和许多其他事物——来打造并维持诸多的大规模网络。
◆ 在民粹主义者眼里，信息就是一种武器。
◆ 如果自我修正机制较弱，有时候如早期现代欧洲猎巫这样的历史灾难就会出现；但如果自我修正机制较强，有时候它则会从内部破坏网络的稳定性。
第一章 信息是什么？
◆ 所谓的真相，一方面能够让我们专注于现实的某些方面，另一方面也不可避免地让我们忽略某些东西。在描述现实的时候，没有任何一种描述能做到百分之百的准确，但有些描述会比其他描述更贴近真实。
◆ 所谓错误信息，是一种无心之过，虽然想要呈现现实，但不小心出了错误。所谓虚假信息，则是故意说谎，是有意扭曲我们对现实的看法。
◆ 真正定义信息的是“联结”，而不是“渲染”或“象征”：只要能将各个不同的点联结成网络，就是信息。信息不一定是要告诉我们一些什么，而是要把事物组织起来：占星术把恋人放进一种占星术队列中，政治宣传把选民放进一种政治队列中，进行曲则将士兵放进一种军事队列中。
第二章 故事：无限的联结
◆ 虽然真理与秩序都能带来权力，但大多数时候，掌握大权的会是那些知道如何创造意识形态来维持秩序的人；至于那些只懂得怎么做炸弹或猎杀猛犸象的人，则只能乖乖听令。
◆ 虚构的故事要多简单就可以有多简单，但真相往往很复杂，因为它要呈现现实，而现实是复杂的。
◆ 如果要追求科学进步，就必须毫不妥协，坚持真理和真相，而且这也是一种让人钦佩的精神实践，但讲到政治，坚持真理与真相绝非制胜之道。
第三章 文件：纸老虎也会咬人
◆ 我们在后续章节还会看到，官僚制度在给你贴上一个标签的时候，虽然完全可能只是出于习惯或传统，但仍然会决定你的命运。这里的官僚制度可能是个活生生的动物专家、有血有肉的人类专家，也可能就是非生物的人工智能。
第四章 错误：绝对正确是一种幻想
◆ 圣奥古斯丁有句名言：“人都会犯错，但坚持错误则是一种邪恶。”
◆ 虽然众人将宗教经典视为绝对的权威来源，但在编纂的过程中，真正的权力其实是在编纂机构手中
◆ 基督徒之所以愿意信任教会人员（比如亚大纳西主教），是因为这是《新约》说的；而他们之所以愿意信任《新约》的内容，又是因为这是主教们让他们读的。想把所有权力都交给一项绝对正确的超人类技术，反而造就了一个全新且极其强大的人类机构——教会。
◆ 13世纪的牛津大学图书馆也是只有几本书，就放在圣玛丽教堂下的一个箱子里。1424年，剑桥大学图书馆藏书总数也只有122册。
◆ 所以，能够真正推动科学革命发展的既不是印刷术，也不是完全自由的信息市场，而是能够解决“人会犯错”这个问题的创新方法。
◆ 换句话说，人类是因为发现了自己的无知，才推动了科学革命。
第六章 新成员：与众不同的计算机
◆ 随后，算法用几百万用户做实验，发现最能提升参与度的办法就是让人愤慨。
◆ 如果我们和冒充人类的计算机进行政治辩论，等于连输两次。第一，用于宣传的机器人程序本来就不可能被说服，所以我们想改变它们的想法只会是浪费时间。第二，我们与计算机交谈的次数越多，就会越多地透露自己的信息，机器人程序就能据以调整论点，动摇我们的看法。
◆ 在21世纪10年代，大家在社交媒体这个战场争夺的是人类的注意力，但到了20年代，争夺的可能会变成亲密关系。
第八章 可能出错：谬误百出的网络
◆ 如果人们可以完全自由地表达自己，真理常常会败下阵来。想让天平往有利于真理的方向倾斜，网络就必须发展并维持强大的自我修正机制，让说真话的人得到奖励。自我修正机制需要付出相当大的代价，但要是真想得到真理，这是必要的代价。
◆ 无论那些官员、工程师、税务员、会计师多崇尚理性，到头来还是会服务于这个或那个编造神话的人。套用凯恩斯的一句话，有些所谓务实人士，自认为不受任何宗教影响，但通常就是神话编造者的奴隶。就连核物理学家，也发现自己得听从某些人的命令。
第九章 民主制度：我们还能对话吗？
◆ 人生在世，要学会在“提升自己”与“接受自己”之间找到平衡。
◆ 如果只要三年高达25%的失业率，就能让一个看似繁荣的民主国家变成史上最残暴的极权政体，等到自动化在21世纪的就业市场引发更大的动荡，世界上的各个民主国家会变成什么样？
◆ 显而易见的是，未来的就业将极不稳定。我们的大问题并不是人类真的没有工作可做，而是面对不断变化的就业市场，我们该如何进行再培训与调整适应。
第十一章 硅幕：全球帝国还是全球分裂？
◆ 大多数领导人宁可让自己以掠食者的身份载入史册，成为残酷征服者名单的一员，而倒霉的学生还得在历史考试的时候苦苦背诵这份名单。
◆ 或许我们还有更多选择。我无法预测人们在未来会做出怎样的决定，但身为历史学者，我确实相信有改变的可能。历史让我们学到的一大重点就是许多我们以为自然而永恒的事物，其实是人为且多变的。所以在我们了解了冲突绝非必然之后，不能因此自满，反而要知道这让我们每个人都背负了重大的责任，需要做出正确的选择。这意味着，如果人类文明被冲突毁灭，人类不能拿什么自然法则或非人类科技来当借口。同时这也意味着，只要我们努力，就能创造一个更美好的世界。这种观点绝非天真，而是无比现实。现在所有的旧东西都曾经无比新颖。历史唯一不变的，就是改变。
结语
◆ 第一，我们必须小心太过天真乐观的信息观。信息并不等于真理，信息的主要任务在于联结，而非呈现现实，而且史上的信息网络往往比较重视秩序而非真理。
◆ 我们能稍微得出的历史教训就是：如果缺乏强有力的自我修正机制，人工智能将有能力宣扬一些扭曲的世界观，助长肆无忌惮的权力滥用，以及煽动让人惊骇的新一轮猎巫行动。
◆ 想要打造更有智慧的网络，需要的只是我们放下天真与民粹的信息观，摒弃想要绝对正确不犯错的幻想，并且认真投入一项困难但平凡无奇的工作：为各种机构制度打造强大的自我修正机制。这或许就是本书想提供的最重要的启示。