當理性變成神話：大數據的傲慢與偏見（转载）

今天搭公車時，看到一個年輕男人以乎有些疲憊，勞基法愈修愈爆肝，他時而望著窗外，時而低頭沉思。根據我多年的社會觀察和讀了心理學的書籍，我知道他一定是忘了帶手機或手機沒電了⋯⋯ 好啦，這是網路上看來的一則笑話，我並沒有搭公車。可是如果有一天，手機不在身邊的話，我們什麼都不知道了，甚至會不會連我們喜歡什麼樣的人、喜歡吃什麼、喜歡聽什麼音樂、喜歡愛什麼電影，我們都要問問手機或社群網站，這會很令人意外嗎？ 因為有了大數據和演算法，加上政府迫不及待要燒錢的AI（人工智慧），有一天我們的手機或社群網站比我們自己還瞭解自己，並不是不可能。然而AI加大數據和演算法的三劍合璧，不只是讓我們選擇自己喜歡的東西，而是在找工作、買保險、看醫生時被挑選，會讓我們更幸福嗎？ 就像人類歷史上的最有用工具一樣，大數據肯定是雙面刃，水可載舟、亦可覆舟。談大數據有多威的書籍可以汗牛充棟，可是人們畢竟是喜歡報喜不報憂的，如果要兼聽則明，我們能夠知道大數據有多可怕呢？《大數據的傲慢與偏見：一個「圈內數學家」對演算法霸權的警告與揭發》（Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy）是一本難得的好書。 不要以為大數據如何落入壞人手裡，才會有其破壞力，如果不懂得大數據卻自以為要用大數據，即使落入良善的人手裡，也可能適得其反。不透明、不受管制的演算法，已經讓社會和個人付出慘痛的代價。 《大數據的傲慢與偏見》作者凱西．歐尼爾（Cathy O’Neil）就是位「圈內數學家」，這本書算是爆料吧，雖然沒啥腥羶色，可是讀起來還是令人膽戰心驚。她是哈佛大學數學博士，曾任教於巴納德學院，隨後投身金融業，任職於對沖基金公司德劭（D.E. Shaw）。離開金融業後曾於多家新創企業擔任數據科學家，負責建立預測人們購買和點擊行為的模型。 熱愛數學的歐尼爾卻稱那些被濫用的演算法為「數學毀滅性武器」。她過去在金融業中待過，很清楚華爾街的投資銀行如何籍由演算法就不勞而獲。姑且不論這公不公平，演算法的濫用好幾次釀成大禍，這已不是啥新鮮事了。裡頭的黑箱甚至連評級的公司都搞不清楚真正的風險，讓一堆AAA級的衍生性金融商品成了一個個不訂定炸彈。 在《大數據的傲慢與偏見》裡，她著眼之處遍及我們想得到或想不到的地方，列舉出許多被大數據綁架而落入囚徒困境的例子，她指出這些都增加了不公平甚至還破壞了民主。身處在高教工作中，就非常能感受全世界大學莫名其妙受到營利機構不透明、自以為是的排名給綁架，迫使政府和大學高層被趕鴨子上架地隨波逐流，甚至踐踏學術尊嚴和專業來逢迎討好用黑箱作業搞排名的公司。 《大數據的傲慢與偏見》中提到一位教學認真優異深受學生、同事和家長喜愛的教師，在完全不知道數學模型哪裡錯得離譜的情況下，被解了僱，申訴無門；保險公司為了獲得更高的盈利使用了大數據，成為了一種勢劫貧濟富，讓窮人付出更昂貴的價格；因為性格測驗不公開的評分而無法找到工作；信用卡用在某些商店就被降低額度；專門欺騙窮人的不實廣告等等等。 這其中的錯誤可能永遠都無法被找到，使用大數據的人就可能像信仰宗教典籍一樣盲從。我們來做個想像，假設有個人被大數據誤判成犯罪機會高的人，這個大數據分析的標籤會跟著他一輩子，那麼他不時會被警察騷擾，或者也找不到正常的工作，所以他走頭無路乾脆作奸犯科，大數據好棒棒地準確預測了，所以大數據就永遠是對的？ 我們很多人相信數學是「中性的」，一加一等於二不是件好事也不是件壞事。可是數學模型畢竟是人建出來的，是人決定要放什麼參數進去，要放在分子還是分母，以及如何估計出參數。只要是人，就有犯錯及無知的可能。何甭提就算不是犯錯，大數據也非完全不能操作的，尤其是在競爭激烈的選戰中。 對於操縱我們人生各階段的各種黑箱數學模型，歐尼爾認為那些建立模型的人應該為他們所創造出來的演算法負起更多責任，而政策制定者更應該負起監督管理的責任。然而要如何監管以免大數據破壞我們珍視的價值，這又是另一個大哉問了。 雖然身為數學家，但《大數據的傲慢與偏見》裡一條公式也沒有，只有一個又一個令人嘖嘖稱奇的真實案例，叫人觸目驚心，卻又不斷有精闢的分析，讓人忍不住要一口氣讀完，這是一本可讀性極高而且也很重要的一本書，值得所有公民一讀！ 转自https://www.msn.com/zh-tw/news/world/【gene思書齋】當理性變成神話大數據的傲慢與偏見/ar-BBIYoon