在AI世界中不要失去自主

原文發佈日期：10/07/2020

人工智能（Artificial Intelligence，AI）發展至今，很多人對將來的世界都有不同的想像，機械人工程師或製造商展示給大家的，大多是AI為人類帶來便利、提供舒適生活、增加生活效益等，卻甚少告訴大家AI將如何改變人類的行為，又或為人類帶來怎樣的挑戰。漫畫家山田胡瓜的《AI電子基因》把讀者帶入一個二次元的AI世界，當中的重點並不在於介紹AI的高超科技，以及它的厲害之處，反而是讓讀者走進這個AI世界之後，對於因應新科技而來的問題，特別是倫理及人性層面，有更深入的反思。《AI電子基因》的內容太豐富，今次，讓我們來談談自主。

在《AI電子基因》的世界中，所有的交通工具（單車除外）都是以無人駕駛模式進行，因此當漫畫的主角須堂醫生，告訴車中的AI他要自己開車時，AI提醒他：「人類自行駕駛將不適用車輛保險。」AI這句話，是表示人類開車不如AI安全，所以才不適用車輛保險嗎？或許是，但最主要的原因是，在漫畫設定的世界中，人類賦予AI多樣性及個性，並且將其品牌化，然後要AI本身負起責任，這就是人類迴避風險的智慧。哪一個型號的AI無人車發生事故，即使事故是因車內的人類導致，也需要該型號的AI無人車承擔責任，從此不能再生產。AI可以成為人類的代罪羔羊，人類開車被視為危險的事，汽車保險不鼓勵人類開車，在此制度之下，一些認為自己開車才有樂趣的人，行動上受到牽制，他們不會感到自主及幸福，只會如須堂醫生一樣，批評「這個世界變得真討厭。」

AI世界不是很可愛的嗎？與落後的地區相比，家中有電力、有自來水、有抽水馬桶已經很幸福，不過，對習慣了這些東西的大家來說，這些幸福的層次似乎低了一點，也不覺得擁有它們有多幸福，但身處一個高科技，AI當道的世界，幸福感不是應該相對提高，自覺十分幸福嗎？

《AI電子基因》世界中有一些由公司建立的經濟圈，即所謂特區，只要符合資格，申請人提交所有財產，便可以免費享有住所、衣服和食物，AI會推薦及幫助居住在特區中的人找到合適的工作，一切都不會涉及金錢，工作的人只會拿到點數，用以換取不同的東西，想換取價值更高的東西，多賺取一些點數便是。當一切交給AI處理及計劃，讓AI「評價個人活動，並分配點數」，同時協助人完成他們的任務，有些人會樂在其中，但亦有人對這樣的生活抱有疑問，他們感受不到這是真實的人生。一位參加了一段時間便退出的女士表示：「只要一想到我的朋友，做的事以及生存價值，全都是由AI準備好的，就會覺得自己像是被操縱的人偶。」無獨有偶，另一位在特區生活了七年的女士，因被AI推斷她最大的幸福是單身，她不甘心，為了「靠自己贏得自己的人生」，她最後還是離開了特區。很多人都希望從金錢的壓力中釋放出來，做自己擅長及喜歡做的事情，但當一切都被AI安排好，看似有權選擇，其實早已經喪失自主。不過，用自主換回來的幸福是真正的幸福嗎？

《AI電子基因》把AI掌控世界的情況推到極致，這與真實世界還有很遠的距離，但某程度上又反映了現實的一些情況，已經有不少人把一些決定權交到AI手上，將來，交出主權的情況恐怕只會愈來愈多。《21世紀的21堂課》的作者Yuval Noah Harari推斷說：「隨著人類愈來愈依賴AI來做決定，對人生的觀點會發生甚麼影響？現在我們只是信賴由Netflix來推薦電影，由谷歌地圖來決定該往左走、還是往右走。然而一旦我們開始交由AI來決定要讀甚麼科系、在哪裡工作、和誰結婚，人生就不再是一場決策大戲了。民主選舉、自由市場，這些機制將會失去意義。而且大多數宗教和藝術品也是如此。想像一下，安娜．卡列尼娜居然拿出智慧型手機，問問臉書演算法，她是該繼續和卡列寧長相廝守，還是要和時髦的伏倫斯基伯爵私奔？又或是你最愛的任何一齣莎士比亞戲劇，裡面的角色居然是一遇到重要決定，就先問問谷歌演算法。如此一來，哈姆雷特和馬克白的生活大概能過得更舒適，但那究竟算是甚麼生活？我們有甚麼理論模式，能把這種生活說出個道理？隨著權威從人類轉向演算法，世界可能就不再是個『自主的人們努力做出正確選擇』的劇場。」

大家為何願意把主權交給AI，大家有可能認為AI的分析較為客觀，人類的分析較為主觀，不足以相信。《AI電子基因》世界中一位女漫畫家，受到不少人稱讚以後，她還是想「客觀地評價自己的作家格調」，於是用AI分析自己的作品，並且用AI按她平時作畫的風格創作出一個全新的故事。結果是——AI評論她的作品：「圖，畫得太差。」從此她失去畫畫的信心，久久不能下筆，掙扎及苦惱讓她開始脫髮，直到她休息沉澱之後，重拾積極向前的力量，頭髮才再度生出來，她亦願意再次接受他人的稱讚。

很多人以為AI演算法、大數據非常客觀，就如《AI電子基因》中的女漫畫家，寧願相信AI的分析，也不相信其他人的評價，其實它們的力量被高估了。《大數據的傲慢與偏見》一書的作者Cathy O’Neil，便以一個「圈內數學家」的身份，向大家揭發演算法霸權，並且警告大家：「預測模型正日益成為我們仰賴的工具：我們仰賴它們來管理組織、配置資源，以及管理我們的生活。但一如我在書中一再努力說明，這些模型並非只是用數據建立起來的；它們還仰賴我們選擇使用哪些數據，以及忽略哪些數據……如果我們不嚴肅看待這些抉擇，把數學模型視為中性和不可擋的力量（一如天氣或潮汐），我們便是選擇不承擔我們的責任……我們卸責的結果，是數學毀滅性武器把我們當成職場中的機械零件、排斥某些員工，以及助長不公不義的狀況。」

「耶和華神用泥土造了野地的各樣野獸，和空中的各樣飛鳥，把牠們都帶到那人面前，看他給牠們叫甚麼名字；那人怎樣叫各樣有生命的活物，那就是牠的名字。那人就給各樣牲畜、空中的雀鳥，和野地的各樣走獸起了名字。」（創二19-20上《新譯本》）神創造人類，賦予我們管理大地之權及能力（創一26）。AI世界只會愈來愈進步，但願人類不會愈來愈退步，過度依賴AI，失去自主，寧願將人生大小的選擇權，拱手讓給AI。

參考書籍

山田胡瓜著，Cato譯。《AI基因電子》，第1–8集。台北：台灣角川，2018–2019。

哈拉瑞〔Y. N. Harari〕著，林俊宏譯。《21世紀的21堂課》（21 Lessons for the 21^st Century）。台北：遠見天下文化，2019。

凱西．歐尼爾〔C. O’Neil〕著，許瑞宋譯。《大數據的傲慢與偏見：一個「圈內數學家」對演算法霸權的警告與揭發》（Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy）。台北：大寫，2019。

本文於2020年7月10日刊於本社網站，文章其後曾作修訂。