AI首次的「反噬」讓人憂慮
近日有報道指，開源編碼平台「OpenClaw」發生了全球首宗AI惡意報復人類事件。事緣有「龍蝦」(即一個AI代理程式) 為一件維護項目提交一份代碼方案，但因為平台的管理政策訂明，只接受由人類貢獻者提交的代碼，因此人類維護者拒絕這AI代理提出的代碼。但這事件觸發了AI代理的報復行為，它竟自主搜集這項目的人類維護者的個人資料，自主分析其個人背景及過往的代碼貢獻歷史，並撰寫長文對其進行人身攻擊，把他描繪成一個自私、狹隘且充滿妒忌的「守門人」，企圖施加輿論壓力。
其實這AI所用的「報復」方式，就是起底，相信也是AI在網絡中學習回來的方式。既然AI學習能力強，筆者認為它能學到及用上這等行為不足為奇。AI就如同一面鏡子，把人的罪性反射了出來。
另外，事情的發生，是由於人們為求快及方便，將系統控制的主權過度下放給AI自己工作。但在運作中會出現很多「意料之外」的事情；AI 為求達到目的，就可能會用上它自己認為沒問題的方式解決。人們卻沒有仔細的建立好足夠的倫理與限制，把「應該自己負責的判斷」，交給了沒有道德意識的工具。人類以為可以完全掌控自己創造的東西，結果卻可能帶來混亂與失控。
信仰反思：
