出版社: 中信出版社
副标题: 数学杀伤性武器的威胁
原作名: Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy
译者: 马青玲
出版年: 2018-9-1
页数: 320
定价: 69.00元
装帧: 精装
ISBN: 9787508692067
内容简介 · · · · · ·
数据科学家凯西·奥尼尔认为,我们应该警惕不断渗透和深入我们生活的数学模型——它们的存在,很有可能威胁到我们的社会结构。
我们生活在一个依赖“算法”的时代,它对我们生活的影响越来越大,我们去哪里上学,我是不是应该贷款买车,我们应该花多少钱来买健康保险,这些都不是由人来决定的,而是由大数据模型来决定的。从理论上来说,这一模型应该让社会更加公平,每一个人的衡量标准都是一样的,偏见是不存在的。
但是,正如凯西·奥尼尔书里所揭示的那样,事实并非如此。我们今天所使用的这些数学模型是不透明的、未经调节的、极富争议的,有的甚至还是错误的。最糟糕的是,数学模型和大数据算法加剧了偏见与不公。例如,一个贫困学生想申请贷款交付学费,但是银行大数据算法根据他居住地的邮政编码判断将钱带给他存在风险,因此,拒绝给他提供贷款。他因此失去了受教育的机会,而这个机会可能帮助他摆脱贫困。...
数据科学家凯西·奥尼尔认为,我们应该警惕不断渗透和深入我们生活的数学模型——它们的存在,很有可能威胁到我们的社会结构。
我们生活在一个依赖“算法”的时代,它对我们生活的影响越来越大,我们去哪里上学,我是不是应该贷款买车,我们应该花多少钱来买健康保险,这些都不是由人来决定的,而是由大数据模型来决定的。从理论上来说,这一模型应该让社会更加公平,每一个人的衡量标准都是一样的,偏见是不存在的。
但是,正如凯西·奥尼尔书里所揭示的那样,事实并非如此。我们今天所使用的这些数学模型是不透明的、未经调节的、极富争议的,有的甚至还是错误的。最糟糕的是,数学模型和大数据算法加剧了偏见与不公。例如,一个贫困学生想申请贷款交付学费,但是银行大数据算法根据他居住地的邮政编码判断将钱带给他存在风险,因此,拒绝给他提供贷款。他因此失去了受教育的机会,而这个机会可能帮助他摆脱贫困。大数据算法做的常常只是锦上添花的事儿,有时甚至是落井下石。
通过个案追踪,凯西·奥尼尔揭示了大数据是如何影响我们将来的,它不仅影响着个人,也影响着整个社会。这些数据评价着我们的老师、学生,筛选着我们的简历,审核着我们的贷款资格,衡量着员工的工作态度,监视着投票者,监控着我们的健康。
凯西·奥尼尔呼吁数据模型的创造者们要对算法负责,政策的制定者及执行者们在使用这一威力极大的“武器”前应该更加慎重。最后,作者指出,大数据几乎掌控着我们的生活,我们应该增加对它的了解。这本书相当的重要,它让我们有能力去问一些十分尖锐的问题,帮助我们了解事实的真相,提出需要改变的地方,探索更好的生活。
算法霸权的创作者
· · · · · ·
-
凯西·奥尼尔 作者
作者简介 · · · · · ·
凯西·奥尼尔(Cathy O'Neil)
数据科学家,mathbabe.org 的博主。博士毕业于哈佛大学,主修数学专业。她曾在巴纳德学院任教,之后为私营企业服务,例如避险基金。她还在各类新型公司担任数据科学家,预测消费者购买与点击趋势。每周她都会出现在“财富记账”的播客上。
目录 · · · · · ·
第一章 盲点炸弹 不透明、规模化和毁灭性
第二章 操纵与恐吓 弹震症患者的醒悟
第三章 恶意循环 排名模型的特权与焦虑
第四章 数据经济 掠夺式广告的赢家
第五章 效率权衡与逻辑漏洞 大数据时代的正义
· · · · · · (更多)
第一章 盲点炸弹 不透明、规模化和毁灭性
第二章 操纵与恐吓 弹震症患者的醒悟
第三章 恶意循环 排名模型的特权与焦虑
第四章 数据经济 掠夺式广告的赢家
第五章 效率权衡与逻辑漏洞 大数据时代的正义
第六章 筛选 颅相学的偏见强化
第七章 反馈 辛普森悖论的噪声
第八章 替代变量和间接损害 信用数据的陷阱
第九章 “一般人”公式 沉溺与歧视
第十章 正面的力量 微目标的出发点
结论
致谢
· · · · · · (收起)
原文摘录 · · · · · · ( 全部 )
-
出于提升排名名次的需要,各个大学就像管理投资组合一样管理着自己的学生。这在大数据领域里很常见,小到广告业大到政治领域都是如此。在校领导看来,每一个准大学生都代表着一组资产和一两项债务。比如,一名高中生在体育赛事上的优秀表现就被视为一种资产,但同时她的成绩可能处于中下游水平,后者就是她背负的债务。她可能还需要申请助学金,这又是一项债务。为了平衡投资组合,他们应该发掘其他能自费上学并且成绩优秀的考生。但是那些理想考生即使被录取了也可能会选择去其他更好的学校。这也是一个必须要量化的风险。鉴于整个评估体系非常复杂,为了“优化招生”,教育咨询产业兴起了。 教育咨询公司诺埃尔–莱维茨(Noel-Levitz)开发了一个被称为“预告+”(Forecast Plus)的预测性分析软件包。该软件包允许招生老师根据地理位置、性别、种族、研究领域、学术地位及“任何其他特征”对准大学生的情况进行评估。另一个名叫“定位学生”(Right Student)的咨询机构则致力于收集、买卖相关数据以帮助大学客户找到最适合录取的学生人选,包括可以支付全额学费的学生,以及可能有资格获得校外奖学金的学生。就这个意义而言,学习障碍对于大学录取可能反而是个优势。 …… 教育公司的专业人士了解每个学校的招生模型,所以他们知道怎样让一个准大学生被纳入其目标学校的“投资组合”之中。一位加州的企业家在教育产业把市场分析法发挥到了极致。他叫马振翼,是美国星腾科国际教育集团的创始人。他用自己开发的模型评估准大学生,计算他们被目标院校录取的可能性。他对《彭博商业周刊》的记者表示,假设一个美国高中生的平均学分绩点(GPA)为3.8,SAT成绩为2000分,课外活动时间为800小时,那么他被纽约大学录取的概率为20.4%,被南加州大学录取的概率为28.1%。然后,星腾科将提供一份有担保的建议组合。如果这个学生接受了咨询公司的建议辅导并... (查看原文) —— 引自章节:排名模型的焦虑和杀伤性的对立面 -
在研究数学杀伤性武器的时候,我们常常需要在公平和效率之间进行权衡。我们的法律传统更倾向于公平。例如,宪法就假定一个人是清白的。站在建模者的立场,无罪推定是一个约束条件,其带来的副作用让一些确实有罪的人被判无罪释放,特别是那些能够请得起优秀律师的人。即使是那些被判有罪的人也有权对判决提出上诉,而这又会消耗大量的时间和资源。因此,我们的法律体系在很大程度上牺牲了效率来保证公平。宪法的隐含判断是,相比监禁或处决一个无辜的人,因缺乏证据释放一个很可能犯了罪的人对我们的社会造成的危害更小。 相反,数学杀伤性武器更倾向于效率。本质上,数学杀伤性武器建基于可测量和可计算的数据。但公平是模糊的,很难量化,它是一个抽象概念。我们的计算机程序尽管在语言学习和逻辑学习方面有所进步,但仍然不能很好地理解抽象概念。它们所理解的“美”只是一个与大峡谷、海洋日落和时尚杂志的美容美发相关联的词,它们试图通过计算脸书上的点赞数和关系网来衡量“友谊'”。而到目前为止,计算机还完全不理解公平这个概念。程序员不知道该如何为公平编码,他们的老板也很少会要求他的做这件事。 (查看原文) —— 引自第103页
> 全部原文摘录
喜欢读"算法霸权"的人也喜欢的电子书 · · · · · ·
喜欢读"算法霸权"的人也喜欢 · · · · · ·
算法霸权的书评 · · · · · · ( 全部 20 条 )
不公平的模型已经开始泛滥了
这篇书评可能有关键情节透露
《黑镜》第三季第一集的社会中,有一个评分体系。人们每时每刻都要对别人的行为进行打分,而评分是个人获取各种社会资源的凭证。工作、生活、身心健康无不依赖于它。剧情展示了生活在这种社会中的人的悲惨生活。 但现实中,已经有这种评分的类似物了。2016 年年底,支付宝依托... (展开)观点并不新颖,消遣可以看看
这篇书评可能有关键情节透露
先写结论:作者对数据模型做了很好的总结,但是观点并不新颖。举例过于冗余,后半部分有点像在冲字数。一些观点过于偏激,比如全盘否定数据模型的在社科领域的作用。 作者对数据模型有几个不错的总结,罗列如下:1. 数据模型擅长以低成本处理海量数据,2. 由于人们无法对模型进... (展开)自恋,自负,自私的,“神”
这篇书评可能有关键情节透露
现在的互联网世界,弥漫着一种“技术既正确”的气氛。高技术诚然引领了社会的经济增长,技术员也在这一波浪潮中赚了不少快钱。我没有要否定计算机技术的意思,但国内的氛围,似乎看不到对于技术的负面影响有什么怀疑。 这本书在国内出版的意义就在于此。 人类的技术正在做的,... (展开)> 更多书评 20篇
论坛 · · · · · ·
| 问deepseek能否从Al及人类的角度,讲讲《算法霸权... | 来自闭眼即天黑 | 2025-03-09 13:12:39 |
这本书的其他版本 · · · · · · ( 全部5 )
-
Crown (2016)7.7分 185人读过
-
大寫出版 (2017)7.2分 32人读过
-
Broadway Books (2017)暂无评分 8人读过
-
Penguin (2017)暂无评分 1人读过
以下书单推荐 · · · · · · ( 全部 )
- 经管:定位/产品/组织/运营等2 (alenwg_cn)
- 黄书 (丝绒陨)
- 左其盛好书榜 (左其盛)
- 授权出版:非虚构 (英国安德鲁·纳伯格联合国际有限公司)
- 怎能读尽天下书 (疏狂老鬼)
谁读这本书? · · · · · ·
二手市场
· · · · · ·
订阅关于算法霸权的评论:
feed: rss 2.0










14 有用 吴慢慢 2018-10-22 11:29:59
把算法的缺点放大到极致,影响到教育、理财、就业、社会管理,几乎是生活的各个领域,本质上是效率和公平的问题,个体、阶层、地域的差异很可能会被算法一刀切带过。算法可以解放人类劳动,但并不意味着可以一劳永逸地把决定权交给机器,所以需要及时反馈和改进模型。具有偏见的和陷阱性的替代变量,加上信息使用和算法的不透明则使得算法具有欺骗性,因此适当的自律和监管是有益的。
2 有用 喊走哥 2019-05-24 17:31:32
从来没有这么坚决地给一本畅销书评出五颗星,这真的是一本数字化生存时代的急救手册,让我们明白自己身处的已知但无法改变以及更多未知却每时每刻都在经历的数据歧视和数字凌霸。该怎么办,书中给出了一些颇具说服力的建议,但对于更多的人来说,第一步应该是觉知,然后自觉地去传播他们的觉知,这也许就是技术时代的新启蒙运动。
3 有用 litinan 2020-10-18 11:37:51
case有点意思,比较冗长
1 有用 Zhen 2020-06-03 23:16:29
两个小时翻完的这本书,因为话题一直有关注,个人比较熟悉所以能这么快,相对我自己。数据和模型在当下的社会无处不在,这本书为了强调数学杀伤性武器这个观点难免偏颇,但是其中的人文关怀是值得肯定的,当下的模型也确实有非常多的问题。不过在中国这个充满社达主义者的社会来看,这本书值得讥讽的地方肯定不少。认清这些模型潜在的危害,是我们善用改进它的保证,开发者的责任感,数据立法,公权机构公开数据和机制是可能的办法... 两个小时翻完的这本书,因为话题一直有关注,个人比较熟悉所以能这么快,相对我自己。数据和模型在当下的社会无处不在,这本书为了强调数学杀伤性武器这个观点难免偏颇,但是其中的人文关怀是值得肯定的,当下的模型也确实有非常多的问题。不过在中国这个充满社达主义者的社会来看,这本书值得讥讽的地方肯定不少。认清这些模型潜在的危害,是我们善用改进它的保证,开发者的责任感,数据立法,公权机构公开数据和机制是可能的办法。数据和模型从出来后便不可能再消失,如何利用是对全人类的考验。(很符合当下现实的是,这本书多次举例提到了美国的种族偏见,真的是弥漫全社会的系统性偏见,希望灯塔国能彻底解决这个问题,作为种族大熔炉,这个问题持续了百年,也该解决了。 (展开)
0 有用 吕畅九 2020-11-23 08:12:28
@2020-11-23 08:12:28 @2020-12-20 15:16:24