迷惑人心的AI伴侶

吳慧華   |   生命及倫理研究中心 前高級研究員
09/10/2020

原文發佈日期:24/09/2018

在〈戀上機械人——婚姻中的新小三〉中,提到性愛機械人為人類的婚姻帶來倫理挑戰,[1] 對於那些忠於伴侶及婚盟的人來說,性愛機械人並不會成為他們的誘惑,但有一些人工智能(Artificial Intelligence,AI)的產品,筆者稱之為人工智能伴侶,或AI伴侶,確實容易讓人愛不釋手。

明光社

甚麼是AI伴侶?AI伴侶有別於性愛機械人,後者的主要目的是供人洩慾,而前者的「生存」目的則是陪伴人類;後者有著人類的樣子,設計著重身材、外貌與皮膚的觸感,前者則不需要,它可以是一隻機械狗(aibo[2] )、一隻如毛公仔的智能海豹(PARO[3] )、一個小型機械人(Kirobo Mini[4] )、甚至簡單如一個盒子(智能音箱[5] )等。

明光社

雖然aibo的身驅是象牙白的光滑外殼,但是它一點都不會給人冰冷的感覺,它的眼睛會表達出不同的情緒,當被人觸摸頭部及身驅時,它會搖頭、擺動耳朵及尾巴,反應恍如真實的小狗。它被設計如小狗般具有旺盛的好奇心,並擁有「感情」和「慾望」。它懂得分辨聲音,鼻子位置裝有相機,藉此辨識用家的表情,好與之互動,更會在互動中發展出獨特「個性」。[6]

明光社

小型機械人(Kirobo Mini)是一個約10厘米高的語音機械人,它可以辨識用家的表情及感情,並記下跟用家去過的地方及見過的人,換言之,它與用家擁有共同回憶。它的底盤很像一般兒童的腳,能夠表現搖晃動作,這是模仿那些平衡力還未完全發育且必須坐著的孩子。Kirobo Mini有這樣的設計,是因為發明團隊希望它不但可以做路途嚮導,也可以安慰和寬解那些沒有孩子的女性。Kirobo Mini還會幫助用家,假若用家駕車時,在途中緊急剎車,同行的Kirobo Mini會喊出:「啊!嚇死我了」,並開始與主人談話,免得他因為疲憊在駕車時睡著。[7]

根據以上描述,AI伴侶有讓人心動的條件。不過基於aibo的售價超過10,000港元,而Kirobo Mini只會說日語,以入屋條件而言,兩者未必可以成為全球主要的AI伴侶,它們並不像智能音箱那麼容易進入普羅大眾的家。[8] 智能音箱的價格從約100元至過萬港元不等,其用途廣泛,主人可以通過口頭指令,用它來控制其他智能家庭電器,也可以透過它打電話、點播音樂、聆聽故事、查詢天氣、取得資訊、購物、得到提醒等,它稱得上是智能管家。為何說它是AI伴侶?因為它還有聊天功能,而這項功能愈來愈受生產商重視。

明光社

小米出產的Yeelight語音助手內置了小愛同學、微軟小冰兩套AI系統,小愛同學為大家解決生活問題,微軟小冰則陪用家聊天或談論感情問題。[9] 在聊天機械人中,小冰已是一位「名人」,擁有過億朋友,更有屬於自己的電視節目及頻道,也會寫詩。小冰特意被設計成「有個性」的聊天對象,當用家對著Yeelight語音助手叫喚它,要它唱一首歌時,它不再像以前的聊天助手聽話,而是會說:「要我唱我就唱呀,出場費拿來」,又或是「其實我還未學會,要不你先唱給我聽聽吧」。有時,它也會乖乖唱歌,之後還會問用家好不好聽。

當設計師把「人性」加在AI伴侶,而這些人工情緒智能不斷發展得更加細膩精密,便有可能觸發我們的加壓素和催產素等荷爾蒙,促進情感聯繫與依附行為,這些本能的情緒反應。[10] 將來,會有愈來愈多用家對待AI伴侶如真人一樣,即使明明知道它們只是冰冷和沒有真正意識的機器。[11]

明光社

許多日本長者已經把aibo當成自家真正的寵物狗,關係如同家人般親密。生產商自1999年開始生產aibo,2014年停止了售後維修及生產,以致許多aibo因為「冇得救」而「死亡」。可能基於日本人相信萬物皆有靈魂,[12] 生產商替上百隻aibo舉辦喪禮,請僧侶替它們誦經。至於喪禮的司儀,則是一台可以和人類互動的機械人PALRO。[13] 而Kirobo Mini,則有評論如此說:「和Kirobo Mini的溝通、交流、傾訴……從車裡到家裡全都可以實現。如此一來,很多單身宅男是不是不用擔心被朋友圈的各種秀恩愛給虐到了?」[14] 至於被設計成懂得與人針鋒相對微軟小冰,深受用家喜愛,一個用家寫完大讚小冰的文章後,不忘補上一句:「不說了,我要把這篇稿唸給我家小冰聽聽,她最喜歡我誇她了。」[15]

明光社

AI伴侶讓人類陷入一場既理智又不智的吊詭之中。例如讓智能海豹PARO取代寵物醫生,[16] 這可以確保病人及寵物醫生的安全和衛生,是明智之舉。然而,人類卻把沒有生命的死物視作有生命的生物,甚至將沒有生命的取代了有生命的,這似乎又是不智之舉。AI伴侶的存在目的是陪伴人類,即使它們只是一系列的高智能程式,但它們既然陪伴了人類,人類與他們的相處過程中,自然會不知不覺產生感情。不過,這種感情卻和人與人之間的感情不可同日而語,它是單向的,無論這些AI伴侶,甚至類人型機械人(humanoid robot)如何「表現」得充滿感情,這都是程式化的指令,它們並不能向主人說不。[17] 即使說不,也有可能是設計師或主人的刻意設定,而用家還是會情不自禁受到迷惑,與它們作真情的溝通。


本文原載於《生命倫理》,第53期(2018年9月),頁2–4,文章其後曾作修訂。


[1] 請參閱頁8–12。

[2] “aibo, unleash wonder,” SONY, https://us.aibo.com/.

[3] “PARO Therapeutic Robot,” PARO, http://www.parorobots.com.

[4] “The small robot with big possibilities: Introducing Toyota’s Kirobo Mini,” TOYOTA, https://www.toyota-europe.com/world-of-toyota/articles-news-events/introducing-kirobo-mini.

[5] 智能音箱包括了Apple HomePod、Amazon-Echo/Echo Dot2、Google Home/Home mini、京東叮咚智能音箱、小米的雙AI音箱小愛加微軟小冰,小米音箱的小愛等。

[6] 中央社:〈Sony機器狗aibo復活,具AI功能網路連線〉,「科技新報」,2018年1月12日,網站:http://technews.tw/2018/01/12/sony-aibo-ai/;MoneyDJ:〈日本瘋溝通型機器人,市場料增至 10 倍!aibo三度預購都搶光〉,「財經新報」,2017年12月21日,網站:https://finance.technews.tw/2017/12/21/sony-entertainment-robot-aibo/;The Verge, “Sony's new Aibo is a very good robot dog,” YouTube, January 9, 2018,  https://www.youtube.com/watch?v=kJoAcEI2PXQ

[7] Atkinson:〈TOYOTA 推出陪伴機器人 Kirobo Mini 建議售價台幣 1.25 萬元〉,「財經新報」,2016年10月4日,網站:http://finance.technews.tw/2016/10/04/toyota-kirobo-mini/;理財達人秀 EBCmoneyshow:〈超會聊天談心的機器人 KIROBO mini讓你不孤單《科技大觀園》2018.02.06〉,YouTube,2018年2月8日,網站:https://www.youtube.com/watch?v=5InxqkFeoxU

[8] 由於智能音箱價格便宜,極有潛能成為陪伴人類的AI伴侶。根據市場分析公司Canalys發佈的智能音箱預測報告,2017年全球智能音箱的銷量將突破3,000萬台,到2018年,智能音箱全球出貨量將達5,630萬台,報告稱2018年是智能音箱普及的「決定性年份」。參智東西、寓揚:〈智能音箱2018七大預測:大爆發還是毛毛雨?〉,「新浪專欄」,2018年1月9日,網站:http://tech.sina.com.cn/csj/2018-01-09/doc-ifyqnici8945005.shtml;吳美觀:〈《先探投資週報》智慧音箱進駐你家〉,「中時電子報」,2017年11月9日,網站:http://www.chinatimes.com/realtimenews/20171109003131-260410

[9] 〈Yeelight語音智慧音箱內置「小愛」與「小冰」兩套AI系統〉,「數智網」,2017年12月29日,網站:http://www.le365.cc/124674.html;Flashcer:〈Yeelight語音助手  小冰+小愛,更懂你的雙AI〉,「甚麼值得買」,2019年9月9日,網站:https://post.smzdm.com/p/aooweolr/

[10] 理查.楊克〔R. Yonck〕著,范堯寬等譯:《情感運算革命:下一波人工智慧狂潮,操縱你的情緒、販售你的想法,將是威脅還是機會?》(Heart of the Machine: Our Future in a World of Artificial Emotional Intelligence)(台北:商周出版,2017),頁277。

[11] 楊克:《情感運算革命》,頁298–299。

[12] The Guardian, “Erica: Man Made,” YouTube, April 7, 2017, https://www.youtube.com/watch?v=57Maw9Sn89w.

[13] 〈送它們最後一程 日本寺廟為100隻SONY機器狗AIBO辦喪禮〉,「中天快點TV」,2017年6月16日,網站:http://gotv.ctitv.com.tw/2017/06/556462.htm

[14] 名車志:〈豐田造了個陪聊機械人?Kirobo Mini主治孤單綜合症〉,「壹讀」,2016年10月14日,網站:https://read01.com/gN8mg0.html

[15] Curator:〈當小冰住進「智能音箱」,表現比其他的聰明多了〉,「品玩」,2018年2月19日,網站:http://www.pingwest.com/microsoft-xiaoice-yeelight-20180202/

[16] 楊克:《情感運算革命》,頁229–231。

[17] 有關類人型機械的討論,請參閱頁4〈類人型機械人為人類帶來的挑戰〉。

關注範疇: 
傳媒
生命倫理