人工智能也造假

近年，人工智能（AI）的應用引起了各界關注，生成式AI根據大數據生成文本、圖像，音頻等檔案，而這些程式允許人工智能透過學習而自行決策，生成資料。

圖像造假

2023年3月，網絡上瘋傳了當時仍未離世、時任天主教教宗方濟各（Pope Francis）穿著白色長羽絨外套的照片，[1] 它看起來十分「潮」，但原來這張看似十分真實的照片，是由AI生成的假照片。它被瘋傳可能是因為它沒有抹黑教宗，而是將教宗和時尚結合，讓人感到驚奇。而恰巧的是，有報道稱已故教宗方濟各曾提到AI應用對人類社會的影響，「評估的標準應該放在人類的尊嚴，只有AI應用能增進人類生而為人的尊嚴，那麼才在道德上擁有使用的合理性。」[2]

而於2023年5月，網上出現了一幅美國國防部五角大樓附近發生爆炸，冒出濃煙的照片，照片在網絡瘋傳後，令美股下跌了近10分鐘，一度下跌約0.29%，亦是「AI生成圖片影響股市的首例」。[3] 而該張假照片的真實程度，足以令OSINTdefender，這個平日在社交媒體Twitter（現稱X）分享國際軍事衝突新聞的賬戶，都分享了它。可以想像連這類專業且擁有數以十萬計關注者的賬戶，都誤信了該照片並分享出去，其關注者自然信以為真，導致「病毒式瘋傳」及令股市下跌的情況出現，這也是可以理解的。而該賬戶的營運者後來為傳播了錯誤資訊表示歉意，並指出這是一個例子，顯示了「這類圖像是如何可以輕易地被用來操縱資訊空間及這類事件在未來到底有多危險」。[4]

失實資訊

AI其中一個常見的造假方式，是通過生成對抗網絡（Generative Adversarial Network，GAN）來進行，原理就是讓兩個神經網絡像是玩遊戲般相互博弈，以進行學習。維基百科網頁簡單的解釋道：「生成網絡從潛在空間（latent space）中隨機取樣作為輸入，其輸出結果需要盡量模仿訓練集中的真實樣本。判別網絡的輸入則為真實樣本或生成網絡的輸出，其目的是將生成網絡的輸出從真實樣本中盡可能分辨出來。而生成網絡則要盡可能地欺騙判別網絡。兩個網絡相互對抗、不斷調整參數，最終目的是使判別網絡無法判斷生成網絡的輸出結果是否真實。」

要判斷程式所生成的內容是否失實資訊、虛假圖片或錯誤訊息等，是一個令人頭痛的問題。美國曾有一名執業超過30年的資深律師引用了ChatGPT提供的案例去舉證，但法庭未能找到相關的案例資料，這才發現ChatGPT造假。他在援引案例前曾不止一次向ChatGPT詢問它所提供的案例是否真實，而ChatGPT回應指案例是真實的，除了強調案例確實存在，更稱可以在一些法律研究數據庫中找到該案例。[5]

事實查核與規管

有「ChatGPT之父」之稱的OpenAI行政總裁Sam Altman，曾與350位權威專家簽署了一封公開信，警告AI對滅絕人類構成的風險，不下於核戰及大流行疫情，呼籲各界對此予以重視。另外，Altman亦曾警告，指AI技術可能在未來操控訊息，並會對2024年舉行的美國大選造成影響。[6]

了解到上述AI造假的情況，用戶在相信和轉發訊息，或使用AI所提供的資料之前，實在需要花時間去查證。但由於AI生成內容的仿真度愈來愈高，可能用戶在查證時需參考專家的分析。英國廣播公司於2023年5月宣佈成立「BBC事實核實」（BBC Verify）專責小組，它由約60名專家和記者組成，以核查影片及資訊的真偽，小組又會將分析核查影像真確性的過程公開，以獲取公眾的信任。由此可見，在AI世代中，要查證的難度愈來愈高。[7]

而規管方面，Altman呼籲應成立一個全球規模的機構，對超過一定規模的AI企業頒發許可證，規管機構擁有撤銷許可證的權限，以確保該技術發展符合安全標準。他期望美國政府能帶頭做有關工作。[8]

中國上海市則在2023年5月發佈的文件稱，要充份發揮人工智能創新發展專項等引導作用，支持民營企業廣泛參與數據、算力等人工智能基礎設施建設；而北京市亦發佈了類似的文件，提出了2025年人工智能核心產業規模達到3,000億元人民幣、持續保持10%以上增長、輻射產業規模超過1萬億元人民幣等具體目標。[9]

而在台灣，2023年5月有單位對外稱，行政機關已召開跨部會會議，邀請了科學及技術委員會、數位部、通訊傳播委員會及文化部等單位，針對ChatGPT等生成式AI立法納管研議出一部「人工智慧基本法」，以立法規範及納入管理。[10]

（本文原載於第151期〔2023年7月〕《燭光》，其後曾作修訂。）