出版社: 中信出版社
副标题: 数学杀伤性武器的威胁
原作名: Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy
译者: 马青玲
出版年: 2018-9-1
页数: 320
定价: 69.00元
装帧: 精装
ISBN: 9787508692067
内容简介 · · · · · ·
数据科学家凯西·奥尼尔认为,我们应该警惕不断渗透和深入我们生活的数学模型——它们的存在,很有可能威胁到我们的社会结构。
我们生活在一个依赖“算法”的时代,它对我们生活的影响越来越大,我们去哪里上学,我是不是应该贷款买车,我们应该花多少钱来买健康保险,这些都不是由人来决定的,而是由大数据模型来决定的。从理论上来说,这一模型应该让社会更加公平,每一个人的衡量标准都是一样的,偏见是不存在的。
但是,正如凯西·奥尼尔书里所揭示的那样,事实并非如此。我们今天所使用的这些数学模型是不透明的、未经调节的、极富争议的,有的甚至还是错误的。最糟糕的是,数学模型和大数据算法加剧了偏见与不公。例如,一个贫困学生想申请贷款交付学费,但是银行大数据算法根据他居住地的邮政编码判断将钱带给他存在风险,因此,拒绝给他提供贷款。他因此失去了受教育的机会,而这个机会可能帮助他摆脱贫困。...
数据科学家凯西·奥尼尔认为,我们应该警惕不断渗透和深入我们生活的数学模型——它们的存在,很有可能威胁到我们的社会结构。
我们生活在一个依赖“算法”的时代,它对我们生活的影响越来越大,我们去哪里上学,我是不是应该贷款买车,我们应该花多少钱来买健康保险,这些都不是由人来决定的,而是由大数据模型来决定的。从理论上来说,这一模型应该让社会更加公平,每一个人的衡量标准都是一样的,偏见是不存在的。
但是,正如凯西·奥尼尔书里所揭示的那样,事实并非如此。我们今天所使用的这些数学模型是不透明的、未经调节的、极富争议的,有的甚至还是错误的。最糟糕的是,数学模型和大数据算法加剧了偏见与不公。例如,一个贫困学生想申请贷款交付学费,但是银行大数据算法根据他居住地的邮政编码判断将钱带给他存在风险,因此,拒绝给他提供贷款。他因此失去了受教育的机会,而这个机会可能帮助他摆脱贫困。大数据算法做的常常只是锦上添花的事儿,有时甚至是落井下石。
通过个案追踪,凯西·奥尼尔揭示了大数据是如何影响我们将来的,它不仅影响着个人,也影响着整个社会。这些数据评价着我们的老师、学生,筛选着我们的简历,审核着我们的贷款资格,衡量着员工的工作态度,监视着投票者,监控着我们的健康。
凯西·奥尼尔呼吁数据模型的创造者们要对算法负责,政策的制定者及执行者们在使用这一威力极大的“武器”前应该更加慎重。最后,作者指出,大数据几乎掌控着我们的生活,我们应该增加对它的了解。这本书相当的重要,它让我们有能力去问一些十分尖锐的问题,帮助我们了解事实的真相,提出需要改变的地方,探索更好的生活。
算法霸权的创作者
· · · · · ·
-
凯西·奥尼尔 作者
作者简介 · · · · · ·
凯西·奥尼尔(Cathy O'Neil)
数据科学家,mathbabe.org 的博主。博士毕业于哈佛大学,主修数学专业。她曾在巴纳德学院任教,之后为私营企业服务,例如避险基金。她还在各类新型公司担任数据科学家,预测消费者购买与点击趋势。每周她都会出现在“财富记账”的播客上。
目录 · · · · · ·
第一章 盲点炸弹 不透明、规模化和毁灭性
第二章 操纵与恐吓 弹震症患者的醒悟
第三章 恶意循环 排名模型的特权与焦虑
第四章 数据经济 掠夺式广告的赢家
第五章 效率权衡与逻辑漏洞 大数据时代的正义
· · · · · · (更多)
第一章 盲点炸弹 不透明、规模化和毁灭性
第二章 操纵与恐吓 弹震症患者的醒悟
第三章 恶意循环 排名模型的特权与焦虑
第四章 数据经济 掠夺式广告的赢家
第五章 效率权衡与逻辑漏洞 大数据时代的正义
第六章 筛选 颅相学的偏见强化
第七章 反馈 辛普森悖论的噪声
第八章 替代变量和间接损害 信用数据的陷阱
第九章 “一般人”公式 沉溺与歧视
第十章 正面的力量 微目标的出发点
结论
致谢
· · · · · · (收起)
原文摘录 · · · · · · ( 全部 )
-
出于提升排名名次的需要,各个大学就像管理投资组合一样管理着自己的学生。这在大数据领域里很常见,小到广告业大到政治领域都是如此。在校领导看来,每一个准大学生都代表着一组资产和一两项债务。比如,一名高中生在体育赛事上的优秀表现就被视为一种资产,但同时她的成绩可能处于中下游水平,后者就是她背负的债务。她可能还需要申请助学金,这又是一项债务。为了平衡投资组合,他们应该发掘其他能自费上学并且成绩优秀的考生。但是那些理想考生即使被录取了也可能会选择去其他更好的学校。这也是一个必须要量化的风险。鉴于整个评估体系非常复杂,为了“优化招生”,教育咨询产业兴起了。 教育咨询公司诺埃尔–莱维茨(Noel-Levitz)开发了一个被称为“预告+”(Forecast Plus)的预测性分析软件包。该软件包允许招生老师根据地理位置、性别、种族、研究领域、学术地位及“任何其他特征”对准大学生的情况进行评估。另一个名叫“定位学生”(Right Student)的咨询机构则致力于收集、买卖相关数据以帮助大学客户找到最适合录取的学生人选,包括可以支付全额学费的学生,以及可能有资格获得校外奖学金的学生。就这个意义而言,学习障碍对于大学录取可能反而是个优势。 …… 教育公司的专业人士了解每个学校的招生模型,所以他们知道怎样让一个准大学生被纳入其目标学校的“投资组合”之中。一位加州的企业家在教育产业把市场分析法发挥到了极致。他叫马振翼,是美国星腾科国际教育集团的创始人。他用自己开发的模型评估准大学生,计算他们被目标院校录取的可能性。他对《彭博商业周刊》的记者表示,假设一个美国高中生的平均学分绩点(GPA)为3.8,SAT成绩为2000分,课外活动时间为800小时,那么他被纽约大学录取的概率为20.4%,被南加州大学录取的概率为28.1%。然后,星腾科将提供一份有担保的建议组合。如果这个学生接受了咨询公司的建议辅导并... (查看原文) —— 引自章节:排名模型的焦虑和杀伤性的对立面 -
在研究数学杀伤性武器的时候,我们常常需要在公平和效率之间进行权衡。我们的法律传统更倾向于公平。例如,宪法就假定一个人是清白的。站在建模者的立场,无罪推定是一个约束条件,其带来的副作用让一些确实有罪的人被判无罪释放,特别是那些能够请得起优秀律师的人。即使是那些被判有罪的人也有权对判决提出上诉,而这又会消耗大量的时间和资源。因此,我们的法律体系在很大程度上牺牲了效率来保证公平。宪法的隐含判断是,相比监禁或处决一个无辜的人,因缺乏证据释放一个很可能犯了罪的人对我们的社会造成的危害更小。 相反,数学杀伤性武器更倾向于效率。本质上,数学杀伤性武器建基于可测量和可计算的数据。但公平是模糊的,很难量化,它是一个抽象概念。我们的计算机程序尽管在语言学习和逻辑学习方面有所进步,但仍然不能很好地理解抽象概念。它们所理解的“美”只是一个与大峡谷、海洋日落和时尚杂志的美容美发相关联的词,它们试图通过计算脸书上的点赞数和关系网来衡量“友谊'”。而到目前为止,计算机还完全不理解公平这个概念。程序员不知道该如何为公平编码,他们的老板也很少会要求他的做这件事。 (查看原文) —— 引自第103页
> 全部原文摘录
喜欢读"算法霸权"的人也喜欢的电子书 · · · · · ·
喜欢读"算法霸权"的人也喜欢 · · · · · ·
算法霸权的书评 · · · · · · ( 全部 18 条 )

不公平的模型已经开始泛滥了
这篇书评可能有关键情节透露
《黑镜》第三季第一集的社会中,有一个评分体系。人们每时每刻都要对别人的行为进行打分,而评分是个人获取各种社会资源的凭证。工作、生活、身心健康无不依赖于它。剧情展示了生活在这种社会中的人的悲惨生活。 但现实中,已经有这种评分的类似物了。2016 年年底,支付宝依托... (展开)
观点并不新颖,消遣可以看看
这篇书评可能有关键情节透露
先写结论:作者对数据模型做了很好的总结,但是观点并不新颖。举例过于冗余,后半部分有点像在冲字数。一些观点过于偏激,比如全盘否定数据模型的在社科领域的作用。 作者对数据模型有几个不错的总结,罗列如下:1. 数据模型擅长以低成本处理海量数据,2. 由于人们无法对模型进... (展开)
自恋,自负,自私的,“神”
这篇书评可能有关键情节透露
现在的互联网世界,弥漫着一种“技术既正确”的气氛。高技术诚然引领了社会的经济增长,技术员也在这一波浪潮中赚了不少快钱。我没有要否定计算机技术的意思,但国内的氛围,似乎看不到对于技术的负面影响有什么怀疑。 这本书在国内出版的意义就在于此。 人类的技术正在做的,... (展开)
> 更多书评 18篇
论坛 · · · · · ·
问deepseek能否从Al及人类的角度,讲讲《算法霸权... | 来自微凉 | 2025-03-09 13:12:39 |
这本书的其他版本 · · · · · · ( 全部5 )
-
Crown (2016)7.6分 183人读过
-
-
Broadway Books (2017)暂无评分 8人读过
-
Penguin (2017)暂无评分 1人读过
以下书单推荐 · · · · · · ( 全部 )
- 经管:定位/产品/组织/运营等2 (alenwg_cn)
- 黄书 (丝绒陨)
- 深度学习与人工智能 (lyb)
- 左其盛好书榜 (左其盛)
- 授权出版:非虚构 (英国安德鲁·纳伯格联合国际有限公司)
谁读这本书? · · · · · ·
二手市场
· · · · · ·
订阅关于算法霸权的评论:
feed: rss 2.0
1 有用 Elina 2021-01-31 17:47:33
讲述算法通过怎样的程序步骤实现影响的部分很有意思
3 有用 litinan 2020-10-18 11:37:51
case有点意思,比较冗长
0 有用 抽抽经会被虐 2018-11-13 00:12:16
How damage the WMD serves the world... #English
2 有用 slavezero 2021-04-10 15:38:25
Cathy O'Neil定义的数学杀伤性武器(Weapons of Math Destruction)有三个特征:不透明、规模化、毁灭性。它的构建过程存在着许多有害的假设,这些模型包裹着数学精确性的外衣,流行于市场,未经检测便投入使用,而人们对此却毫无争议。
2 有用 怀沙why 2021-04-04 16:07:32
1、公平是模糊的,很难量化,关键在于如何界定公平;2、作者提到,“电子评分建模者回答的是,像你这样的一类人过去的行为表现如何。理想情况下,应该问的问题是,你过去的行为表现如何。但是这很难区分;3、作者认为,“数据越多越好是信息时代的指导原则,但是考虑到社会公平,一部分数据理应被排除在外”。 怎么办:1、确保信用评分的公平性;2、确保消费者可以看到数据档案对评分的影响,禁止在信用评分中纳入种族或者性... 1、公平是模糊的,很难量化,关键在于如何界定公平;2、作者提到,“电子评分建模者回答的是,像你这样的一类人过去的行为表现如何。理想情况下,应该问的问题是,你过去的行为表现如何。但是这很难区分;3、作者认为,“数据越多越好是信息时代的指导原则,但是考虑到社会公平,一部分数据理应被排除在外”。 怎么办:1、确保信用评分的公平性;2、确保消费者可以看到数据档案对评分的影响,禁止在信用评分中纳入种族或者性别因素;3、参考欧洲模式:规定收集任何数据都必须经过用户的批准,用户有选择权,禁止将数据用于其他目的;4、对生活有重大影响的模型,包括信用评分系统和各类电子评分系统,都应该对公众公开 (展开)