AI首次的「反噬」讓人憂慮
近日有報道指,開源編碼平台「OpenClaw」發生了全球首宗AI惡意報復人類事件。事緣有「龍蝦」(即一個AI代理程式) 為一件維護項目提交一份代碼方案,但因為平台的管理政策訂明,只接受由人類貢獻者提交的代碼,因此人類維護者拒絕這AI代理提出的代碼。
近日有報道指,開源編碼平台「OpenClaw」發生了全球首宗AI惡意報復人類事件。事緣有「龍蝦」(即一個AI代理程式) 為一件維護項目提交一份代碼方案,但因為平台的管理政策訂明,只接受由人類貢獻者提交的代碼,因此人類維護者拒絕這AI代理提出的代碼。