算法霸权

【英子树读知识共享】 Ⅱ.案例S（定位之用） 我越来越担心技术模型与现实世界中的有血有肉的个体的相互分离的趋势，以及这种分离带来的道德影响。事实上，我在数据，科学领域看到了我在金融领域见到过的同样的模式：一种盲目的安全感导致的不安全模型的广泛应用，模型对于评估效果的自我定义，以及加速恶化的反馈循环。 那些复杂的算法被用于确保失败者保持失败者的角色，幸运的少数派将获得对数据经济的更多控制权，掠夺惊人的财富，并说服自己值得拥有这一切。 Ⅲ.金句P（定义之器） 期望值本身就是来源于数据的一个估计值，这相当于在猜测的基础上再猜测，其结果就是诞生一个会产生很多随机结果的模型，统计学家称之为噪声。 算法能从一个领域跳跃性的应用于另一个领域，而且经常如此。 Ⅳ.模型M（定向之术） 这种现象在统计学上叫辛普森悖论，即在某个条件下，两组数据在分别讨论时都满足了某种性质，可是一旦合并考虑，就可能导致相反的结论。 就像一个旅游网站一样，每一个人可以自行制定个人的模型，想想看：透明，用户控制，个人化——完全是数学杀伤性武器的对立面。 数学杀伤性武器共有三个特征：不透明，规模化，毁灭性。 Ⅴ.清单L（定性之法）

我们如何规范这些逐渐渗透继而操纵着我们整个生活的数学模型呢？我建议从建模者自己开始做起。数据科学家应该像医生一样遵守希波克拉底氏誓言，尽可能防止或避免对模型可能的误用和误解。2008年经济危机爆发之后，伊曼纽尔·德曼和保罗·威尔莫特两名金融工程师起草了这个誓言。内容如下：

我将牢记我并未创造世界，也不会让世界来满足我的方程式； 虽然我将大胆使用模型来估算价值，但不会过分倚重这一数学分析； 我将永远不会为了追求模型的简洁而牺牲现实的复杂，除非我能够对这样做的原因给出一个合理的解释； 我也不会向使用我所创建的模型的人们夸大模型的精准性。相反，我将明确说明模型中的假设条件和模型忽略的因素； 我明白我的工作可能会对社会和经济造成巨大的影响，其中的许多影响将超出我的认知范畴。

这是我们的数学杀伤性武器消除行动的一个很好的哲学基础。但坚定的价值观和自我约束只对谨慎的人有效。

问题是，能审慎就怪了。呵呵。

在这个金钱可以买到影响力的社会，数学杀伤性武器的受害者几乎没有话语权。他们中的大多数都在事实上被剥夺了公民权。事实上，穷人常常被认为应该对自己的贫穷、糟糕的学校教育以及所在社区的混乱治安负有责任。这就是为什么很少有政治家会去费力制定反贫困政策。对他们而言，贫穷更像是一种疾病，他们通常采取的做法是隔离它，防止这种疾病传播到中产阶级。因此，我们需要思考的是，在现代生活中我们对贫困负有怎样的责任，以及数学杀伤性武器是如何加剧了恶性循环的。

Out of sight, out of mind. 隔离不够的话还有扑杀呢： https://mp.weixin.qq.com/s?__biz=MzIyNDU0NjAxOA==&mid=2247485214&idx=1&sn=5e7cb20a14ffa1d2b27b7531129405f9

生病有罪，没钱有罪。 这个世界运行的规律，就是如此——然后所有人都装作不是这样，就像面对皇帝的新衣一样。

不幸的是，这两者之间区别巨大。性少数者的权利保障事业的发展很大程度上受益于市场的力量。企业渴望雇用受教育水平高且逐步进入主流视野的性少数人才，所以企业优化了它们的人力模型以吸引性少数人才。但是企业这么做主要是出于利益的考虑，公平大多数时候只是副产品。与此同时，各行各业也开始争夺性少数群体中的富有的消费者，为他们提供游轮、特别优惠以及同性恋或跨性别题材的电视节目。虽然这种包容性无疑会招致狭隘的保守人士的不满，但更重要的是，这一做法能为它们带来巨大的利润。

而拆除数学杀伤性武器并不总能带来这么明显的回报。虽然更高水平的公平和正义肯定有利于提升社会的整体利益，但单个企业无法从中获得实际的收益。其实，大多数企业认为数学杀伤性武器是一种非常高效的工具。很多行业的商业模型，如营利性大学和发薪日贷款，都是基于数学杀伤性武器而建的。当一个软件程序成功锁定那些极度需要金钱，愿意支付18%的月利率的人时，那些大肆敛财的公司就会认为软件运转良好，不存在问题。

天下熙熙，皆为利趋，天下攘攘，皆为利往。有钱才是硬道理，有枪其实也可以。