大數據的傲慢與偏見

《大數據的傲慢與偏見：一個「圈內數學家」對演算法霸權的警告與揭發》
（WEAPONS OF MATH DESTRUCTION: HOW BIG DATA INCREASES INEQUALITY AND THREATENS DEMOCRACY）
作者：凱西．歐尼爾（Cathy O’Neil）
譯者：許瑞宋
出版地：台北市
出版：大寫出版
出版年份：2019年

《大數據的傲慢與偏見》的作者從小熱愛數學，其後取得數學哲學博士學位，曾在大型對沖基金公司擔任量化分析師。作者一度認為數字是公平及客觀的，但隨著2008年的全球金融海嘯引發經濟崩潰，這信念便瓦解，她描述自己「上了可怕的一課，了解到數學可以如何暗中為害、毀滅世界。」大家都相信程式設計師和統計學家的數學分析，卻很少人質疑統計系統如何運作，它們又是否公平公正。數學——其實可以成為毀滅性武器。

作者走訪了中小學、大學、法院、職場、投票站，為大家揭示所謂客觀的評估其實一點也不客觀。例如在教育方面，美國政府以學生的分數來釐定老師的質素，但作者指出數字並不能說明一切，一位有心力有能力的好老師也可以敗在評分系統上。老師的表現雖然有可能影響學生的成績，但影響學生成績的因素還有許多，包括家庭問題、經濟壓力或個人形象。單單透過演算法歸納人的行為、表現及潛力，並非容易的事情。作者更提到一位經驗豐富的老師，有一年被紐約公立學校增值模型給了六分，第二年卻有96分，兩年來，這位老師都一如既往的盡力。如果不是這位老師的合約是終身制，這位好老師早在只得六分的那年被辭退了。另一位優秀的老師由於她的合約不是終身制，即使她得到校方及學生家長的讚賞，卻因為被增值模型打了一個奇差的分數，而要被迫要離開任職的公立學校。校方願意推薦這位傑出的老師到另一個富裕社區的學校任教。作者諷刺的說：「拜一個非常可疑的模型所賜，貧窮社區的學校失去了一名好老師，富裕社區一間不會根據學生的分數開除教師的學校，則得到了一名好老師。」

由於美國大眾極度「擁護」數字，美國的大學也受到影響。自從《美國新聞》在1988年公佈了第一份仰賴數據的大學排名，當中的排名變成了一種國家標準，大學都想被加分，以致本來的特色都不再重要，反而致力於改進由報社所制定出來的15項準則，這無疑讓教育制度走進一個僵化的模型。有些大學為了推高學校的排名而出錢讓學生重考SAT考試（由美國大學理事會提供的考試）；有些直接捏造數據；有些選擇建設豪華的宿舍和健身房。這些費用當然會轉嫁到學生身上。1985年至2013年，美國高等教育成本增加超過500%，學生的借貸也變得愈來愈沉重。

讓人人都有機會接受高等教育是好事，但在美國，有很多「文憑工廠」，目標精準地鎖定為比較容易上當的清貧人士。很多人都在網絡留下足印，一經分析，富人或窮人，以及他們的喜好或需要很容易被劃分出來，精準廣告會出現在不同階層人士的眼前。「文憑工廠」的廣告會說服生活艱苦的人，文憑可以改變他們的生活，可惜的是這些文憑得不到社會承認，入讀大學而來的借貸只會令窮人的生活百上加斤。

數據化時代，亦代表著人人被監視，無所遁形的時代。美國充斥著不少收集市民資訊的公司，以供其他人付費查閱：如Experian、Acxiom、RealPage等，問題是它們所提供的資料不一定精準。不準確或未及時更新的資料可能剝削了居民應有的權利，有位女士便是其中的受害人，她申請老人院時被拒，事緣是RealPage在網上顯示了她的被捕記錄，事實是她的確曾被捕，但卻沒有留下案底，該項記錄亦早已從政府的資料庫中被刪除了。作者指出這些數據公司只管收集市民的資訊，卻不願花時間更新他們的資料，影響了不少人的名譽或權益。

工作方面，為了找出有創意、有智慧和魄力的人才，Gild這類人力資源公司不單會分析員工的履歷表，還會留意他們在網絡上曾否跟相關人才作交流，看看他們是否該領域的活躍人才。作者認為此法並不周全，雖然未至於成為數學毀滅性武器，但隨著數據世界持續地擴張，僱主如何解讀潛在員工在網上發放的生活動態，值得大家留心。另外，作者建議在美國找工作的人，最好不要拖欠信用卡賬單，因為有調查顯示，接近一半的美國僱主在選擇應徵者時，會檢視其信用報告。有時候，拖欠債務可能是事出無奈或一時疏忽，並不能完全反映員工的責任感出了問題，只是當中原因未能在大數據中顯示出來。

作者並非打算推翻統計工具及數據，她只是想喚起大眾的警覺性，知道它們如何對社會造成不公，特別讓低下階層的人成為被追擊的對象，她提出「大數據模型將某種歷史狀態寫進程式裡。它們並不創造未來。創造未來需要『道德想像力』（moral imagination），而那是人類才有的。我們必須明確地將比較好的價值觀寫進演算法，創造出在道德上聽從我們領導的大數據模型。有時候這意味著我們必須重視公平甚於利潤。」

這本書讓讀者明白大數據並不如大家想像的那麼客觀或中性，作者邀請大家多作思考如何善用手中的利劍，才可以讓它們為人類服務，而不是反過來讓它們掌控人類。