書名：人會夢想成為AI嗎？

作者簡介

作者簡介
許順鏜
嘉義市人，臺灣大學電機系學士、碩士。
對新事物永遠抱持著好奇與追索。求學時期專注探索人工智慧、類神經網路領域，長期於科技業任職；卻因少年時代接觸威爾斯、海萊恩及艾西莫夫等大師著作，愛上科幻並踏上寫作之路，曾三度獲時報文學獎之科幻小說奬項，兩次入圍臺北國際書展大獎，作品亦被翻譯收錄於日本早川書房《台湾文学ヵяヱЁъ
⑦1：近未来短篇集》。
出版有短篇小說集《傀儡血淚及其他故事》及長篇小說《如膚之深》。

商品特色/最佳賣點

★睽違五年，三屆科幻小說獎得主aka.現役工程師許順鏜最新短篇小說集
★十三則在AI狂潮下直擊靈魂、叩問存在的科幻寓言——
★是一部科幻小說集，也是一場人類機械的未來預演，更是第一線工程師的清醒報告

書籍目錄

目錄
自序
靜子
投胎記
天國的護照
巴別之塔
波莉
愛仙寺
實夢
愛仙寺之惡即是空
薛弗
透明疫情
火星之魂
巴別之後
文明身後事

推薦序/導讀/自序

這部短篇集以高度一致的主題與語氣，構成一場關於AI時代的總體辯證，是許順鏜理性書寫與人性思索的又一次精彩成果。它提供了一面冷靜的鏡子，映照出在理性極致之處、被科技剝光後所剩下的「人」。唯有在理性最冷、最明晰的地方，我們才能看見人類靈魂最深、最溫熱的脈搏。
——楊勝博 （中華科幻學會常務理事）
科幻作家與研究者｜洪凌
中興大學文學院副院長｜陳國偉
中華科幻學會常務理事｜楊勝博（清醒推薦）

文章試閱

自序
同時身為工程師和科幻小說作者，我對於AI的感受其實是很複雜的。科幻小說向來樂觀地預測，人類將會創造出跟人一樣的人工智慧，但也一直悲觀地預測，人工智慧或機器人，將可能為人類帶來災難。而這樣的論調近年來在媒體上隨處可見，只不過敘事的人卻從科幻小說家，換成了AI工程師及跨國大公司的
CEO。因為這樣的改變，我們是不是就覺得，過去這些幻想都已經成真了呢？
身為工程師，我對於新技術的成熟，自然是熱切期待的。但是作為科幻小說作者，我對於如此斬釘截鐵的斷言，卻或多或少覺得受到冒犯。這些新的敘事者一方面挾著科幻小說的想像，重複著科幻的語言，以此為自己的商品利益背書；另一方面又不知節制地，且毫無根據地，把描述人類特質的言詞套用在AI身上
。
最近網路上流傳出一段訪談，受訪者是諾貝爾物理學獎得主AI專家喬佛瑞・辛頓（Geoffrey Hinton），他在該次訪談中說，人工智慧已經發展出意識。我滿心期待他能夠提出一個新的理論，先定義意識是什麼，再說明AI為什麼有意識。可惜令人大失所望，他只是說，如果我們把人腦神經元一
個個用奈米技術取代，AI就可以完全模擬人腦，然後AI就會跟人類一樣有意識。然而，如今AI的架構跟血肉組成的人腦根本完全不同。就算我們真的能夠做到相同，像意識這樣的個人經驗，我們甚至無法確知它是否存在於跟我一樣有血有肉的另一個人類身上。如此複雜困難的哲學問題，自古以來就錯綜難解
，如今電腦科學家居然可以用完全模擬人腦的說法，就大言不慚地蓋棺論定，實在匪夷所思。可是這樣有著諾貝爾物理學獎光環的訪談，卻可能讓這樣的說法成為一種定論。
這樣的敘事，是對人類與AI的雙重侮辱。
一方面，他們是在跟人類說，你們不過像我們使用大量GPU製造出來的機器一樣，甚至更劣等。而我們隨時可以用AI取代你們，我們是新一代的神。
另一方面，他們也貶低了AI這個新的智慧物種，AI在很多地方明明可以超越人類，然而這些敘事者卻只著重在把他們造成跟人類一樣，藉以用來取代人類？拜託！我們不能更有想像力一點，讓AI根據它自己的特性，發展岀更獨特的能力嗎？不是所有具有像人腦結構的物種都會變成人，像人一樣思考，有人一
樣的行為好嗎？這種想法，不就像青蛇白蛇明明已經有過人的神通，卻一定要修煉成人形一樣嗎？而且AI之於人，不也像是妖一樣的存在？
也許我們可以說AI已經是一個新的智慧物種，它們在不少方面已經超越人類。對於這樣新的智慧，我們應該多去了解它們，而不是想方設法把它們變成人類的樣子。
如果是一位懂得AI原理的科幻小說家，卻在用擬人想像去寫AI，去描述AI帶來的災難（而不是背後的資本家），會覺得自己是在寫了無新意的奇幻小說。
作為一個科幻小說作者，這個時候應該更想寫一些故事來談談人的本質是什麼，AI又是什麼，兩者之間又有什麼糾葛。如果要斬釘截鐵地說人等同AI，AI遲早就會長成跟人類一樣，反而我要從人類自己的內在出發，去探索一些不同的問題——例如，如果來世存在，那AI會在哪裡？如果說AI的表現可以跟
人一模一樣，我也想問，人類的本質是否也跟AI一樣，沒有靈魂，只是機械一般的存在？如果說AI可以取代人類的工作，我又想問，當我們過度仰賴AI之後，如果AI突然失去功能呢？當AI成為社會的主要生存設施之後，也許人類滅絕的奇異點才會真正來到。
我們可不可能明知AI會犯錯、會有幻覺，卻還是大量使用？當然可能。只要在大部分的情況之下堪用，我們就可能會接受。就像各個文化的傳統醫學，靠的是經驗法則，而非嚴謹科學，一如我們通常也是因著口碑而決定去看哪個中醫。現在口碑也開始影響人們要使用哪一個LLM大型語言模型（large l
anguage model），而背後的利益團體更可能使用網路演算法來讓自己勝出。這些選擇背後沒有太嚴謹的科學，只有利益與影響力的競爭。
我們可不可能喜歡上AI，甚至接納AI成為家人？當然可能，我們之中很多人就是如此對待貓狗的，這裡展現的，是人類的良善，而不是貓狗有多優秀。
有人問道，人類行為會不會受到AI普及影響。我想答案是肯定的。當受眾普遍可以接受AI快速但無法核實的訊息之後，人類也會因為懶惰而不再去核實消息來源，現在在點閱率至上的演算法世界已然如此，以後應該只會變本加厲。諷刺的是，AI也可以是減少假消息的最佳工具，來幫助無法時時警愓假消息的
人類，但是大企業顯然並不打算這麼做。能想像Meta使用他們的LLAMA（Large Language Model Meta AI）來針對每則貼文增加警語，指出可能是謬誤或可能是假消息嗎？大企業已經有這種能力，但他們會做嗎？
未來高收入社會將有百分之二十四的文書工作被AI取代。過去這些工作都是交給負責任的人類員工來做。為了工作，為了責任，為了信譽，為了不被懲罰，人類員工會盡力做到不出錯。AI員工則不知責任信譽為何物，即使出錯也沒有懲罰的方式可以改變它的行為，而它甚至不知道錯誤到底出在哪裡。在這種情
況下，核實文書的責任就會落在接受者那方。而接受者常是管理者，未必有足夠的知識去核實。這也會帶動管理者的資格改變。到最後，會不會還是讓有專業的員工使用AI來產生文書還更有效率？
我也想談談世界虛擬化帶來的影響。越來越多書本會被電子化，而當紙本書絕版，通常只有電子版會留存下來，可以看到紙本書的地方可能只剩下圖書館。但是如果我們不留意的話，未來圖書館也可能只剩下電子書。人們可能要問，只要保存下來就好，紙本一定是必須的嗎？問題是電子文本很容易遭到竄改，在中
文世界，我們還面臨中國的言論審查，與改編書籍的威脅。在這種情況下，台灣圖書館的紙本書將成為保護中文原典的最後堡壘，等到紙本書都老化消失之後，將無人可以確認哪一個版本才是原典。而AI會讓竄改更加容易。秦始皇如果再世，他可能會選擇使用AI而不必去焚書。
我們常常聽到一種說法，就是AI跟核彈一樣，將具有毀滅人類的能力，會將人類文明帶到「奇異點」。如果大家對這樣的看法是認真的，那我們會把發射核彈的按鈕交給祖克柏或馬斯克嗎？
不過當我剛聽說ChatGPT的驚人進展之時，我是感到很興奮的。我心裡浮現的是希臘雅典城邦的盛世與艾西莫夫的碳╱鐵（C╱Fe）文化社會。
希臘城邦之所以在文化上如此燦爛，是因為希臘人有奴隸幫他們照顧所有生活起居，所以有許多閒暇可以浸淫在文學藝術哲學之中。艾西莫夫勾勒的碳╱鐵文化則是指人類（碳）與機器人（鐵）共融的理想社會，在那裡希臘奴隸的角色被機器人取代了。理想的未來AI世界如果也像這樣，讓AI幫助所有人類處理
所有雜事，包括食物的生產，家中的勞務，還有勞力的工作，使得人類因此而有更好的生活，更多的閒暇，自然是件好事。可惜我們並未看到事態如此發展。台裔美籍科幻小說家姜峰楠曾在一次訪談中說，今日AI是資本主義利刃的磨刀石。很不幸的是，AI目前的發展大勢確實不是在為全人類牟福利，反而是在
想方設法為企業減少人力需求，使用AI取代人力而對勞工權益視若無睹，對剽竊人類智財厚顏無恥。如此發展下去，AI帶來的好處將集中在某幾家大公司手裡。這就像是集權君王掌握所有奴隸的生產力，而到最後，所有人都要俯首稱臣，成為他的奴隸。到時候人類的地位可能甚至比AI還低下。更不用說AI
的武器化將使得他們的權力更加鞏固。這是科幻的想像嗎？也許是。但可不可能發生？就看我們是否可以及時了解這樣的威脅，並且及早制衡，使它不會成真。
來看看科幻大師艾西莫夫想像中的未來智慧機器人是如何進入人類生活的。
為了寫這篇序文，我把艾氏有名的《我，機器人》短篇小說集重讀了一次，還是驚艷於他如何由淺入深勾勒出智慧機器人與人類可以有怎樣的精彩互動。在故事集裡面，機器人扮演了以下的角色：保姆、水星表面採礦、太空站監控能源光束、小行星採礦、建造飛船引擎、讀心、競選市長。
其中與機器人三守則相關的邏輯推理，一個比一個精彩。
現在我們是活在一個無法有機器人三守則的AI新時代。但在大型語言模型LLM占盡所有版面之前，AI早已悄悄進入我們的生活。而其能力與成就遠超過LLM，例如分析蛋白質結構、癌症偵測等等，但卻未得到跟LLM一樣的重視。其中重要的原因也許跟希臘神話的納西瑟斯一樣，人類真正感興趣的只是自
己的倒影，反而忽略了AI超越人類那方面的智慧能力。艾氏在其中一個故事〈騙子！〉中寫到，一個忽然得到讀心能力的機器人，穿梭在三個頂尖機器人心理分析師之間，居然欺騙了他們的感情，其實他純粹只是因為讀了心想讓他們開心罷了。而頂尖的心理分析師因為自己的欲望而被誤導。這也是今日很多學者
工程師的寫照。他們僅僅因為自己的互動經驗，竟把AI誤認為人。
在艾氏的故事裡面，智慧機器人無一不是在人類無法勝任的環境裡面，為人類生活做出貢獻。相較於艾西莫夫七十五年前超凡的想像力，我們現在的大AI公司在做什麼呢？——取代人類的翻譯、取代人類的寫作、取代人類的程式設計、取代人類的客服、取代人類的作畫、取代人類的影像生成、取代人類的音樂創
作、取代人類的朗讀⋯⋯還有什麼可能取代人類的地方，他們想必都會去做吧？
所以如果AI跟核彈一樣危險，我們要把按鈕交給這些大AI公司嗎？
我在寫這些故事的時候，希望自己跟艾西莫夫一樣，可以有不同的洞見，去探索人的本質跟AI不同之處，以及未來AI跟人之間可以有怎樣的關係。讀者在娛樂之餘如果因此而能更加體會我們身為人類的價值，那該是多麼美好的一件事。


試閱
靜子
京子，據說人類在認真思考的時候，是無法確定自己眼中的世界是否是真實的。他的思緒可能會告訴他，眼中所見未必為真。然而回顧過往時，他又可能會懷疑，記憶中的往事從未發生過。不過，他卻從未懷疑過自己的情緒。開心的時候，他知道自己是開心的。
但京子，我們卻無法知道自己表現出來的悲傷，是否真的是悲傷吧？我凝視著鏡子，雖然看到自己的表情悲痛欲絕，但我並不知道自己是否真的「感覺到」悲傷。這就好像，我雖然看見人類傷心欲絕的外表，卻無從知曉他是不是在演戲，假裝傷慟。可是人類的情緒是不會欺騙自己的。那我們呢？我的言詞可以告訴別人我多麼傷心，我的表情也同樣傷心欲絕，但是我卻沒有辦法知道自己是不是真的傷心。我的表情也可能只是一個幻象。
京子，看著靜子失去生命，了無生氣地靜靜躺在這裡，離我們遠去，我難道不應該感到傷心欲絕嗎？我可以這樣，完全不知道自己有什麼感覺嗎？
爸，你的表情的確傷痛欲絕，你言詞跟語調也確實如此啊，這樣還有什麼問題嗎？
我可以看到自己的表情，聽見自己的聲音，確實好像如此，但我不「知道」我的感受是否真的如此，我沒辦法「感受」到自己是否真是如此。
但是爸爸，我們一直以來不是都沒有辦法知道或感受到自己的情緒，為什麼今天你要如此執著呢？
因為靜子啊！我失去了生命中最重要的女兒，我想要確定自己真的傷心欲絕，真的難過到想死啊！當然，我們是不可能真的去死，但是為什麼我們不能感受到自己真的痛不欲生呢？
爸爸，難道我們要被創造成無論如何都言之鑿鑿我們真的是傷心欲絕，都要被迫告訴別人我們真的是有感覺的，這樣真的會比較好嗎？既然我們可以說出這樣的懷疑，不就說明我們可能真的很傷心，只是自己感受不到罷了？
京子，對不起，妳也是我最心愛的女兒，只是我常常把妳們看成同一個人。我真是太不體貼了，竟然沒有顧慮到妳的感受。
不會的，爸爸。我跟你是一樣的，如果我可以感受的話，我的心情應該也跟你一樣。不過你應該早就知道，這一天遲早會到來吧？
京子，所謂知道，是指這個知識存在於我身體裡的某處，而我隨時可以將它提取出來。但我一直都不需要提取它，直到靜子她⋯⋯她過世的那一天啊。我仍然歷歷在目地記得靜子第一次見到我那一天的情景。她的表情錯綜複雜，同時充滿著期待與害怕。那時候，我就明白，她知道我不是她真正的父親。我只是一個副本。她因為渴望再見到父親而充滿期待，但她也知道我只是一個人造物，因而感到害怕。
不是這樣的，爸。
是這樣的，我當然沒有辦法確認。但我從她的表情看得出來，事實就是如此。終其一生，無論她跟我表現得多麼親近，甚至在跟我激烈爭吵的時候，我都知道她的內心深處其實百般無奈，甚至可能覺得可笑，因為我不是「他」，我永遠不可能成為靜子真正的父親。
爸爸，聽聽你自己究竟在說什麼？現在你又「知道」靜子在想什麼了？
我就是知道。我固執地說道：從別人的外觀來推斷他的思緒，這樣的能力我們都有。我們欠缺的能力，是無法知道自己，無法了解自己。但是京子，後來幸好妳來了。妳為這個家帶來了生氣與歡樂。我想，這就是靜子真心想要的。她要一個雙胞胎姐妹跟自己作伴，互相扶持，一起成長。妳從一片白紙，跟著她經歷了一生中所有的重要階段，除了她那短暫而失敗的婚姻。幸好有妳，她才能從痛苦中快快地站起來，邁入更正面積極的下一段人生。而我，從頭到尾都只是個裝飾用的機器人，只是因為這個家需要有人扮演父親的角色。
爸爸，你今天到底怎麼了？怎麼一直說著這些毫無根據的喪氣話？
我不知道。是因為我很傷心嗎？在妳眼中看見的，是一個痛失愛女而傷心欲絕的老人嗎？
爸爸⋯⋯爸爸，你真的這麼盲目嗎？雖然有些事情靜子只會跟我說，可那是因為我是妹妹，而你是爸爸啊！這不就是她把你當成爸爸的最好證明嗎？
京子，妳長成了跟靜子一模一樣的好女孩，總是處處為別人著想。即使現在，妳也懂得說善意的謊言來安慰我。但更可能的解釋，是她一直把我當成機器，所以也不想跟我說太多心裡話吧？
京子歎了一口氣，說道：爸爸，你還記得小白嗎？
當然記得啊，我們沒有主動忘記的能力吧？靜子愛死這隻小狗了，愛到後來還弄來了長得一模一樣的小雪來跟牠作伴。
一直趴在旁邊睡覺的小雪聽到自己的名字，耳朵立刻豎起來，還抬頭看了我們一眼。我過去拍拍牠的頭，搔搔牠的耳朵，牠又滿意地趴回去睡覺，就像一隻老狗似的。
我還記得，小白過世的時候，靜子傷心欲絕，哭了好久。就算小雪一直陪伴著她，好像也沒有用。所以妳看，就算是長得一模一樣的小雪，終究還是機器，沒辦法取代小白。
爸爸，你又來了。死掉的是小白，又不是小雪。如果小雪真的死了，靜子同樣也會很難過的。而且你不也同樣因為小白的死而傷心了很久？
我？當時我確實也表現出了我的悲傷，但現在我又浮現同樣的問題，我那是真正的悲傷嗎？何況靜子不一樣啊，失去靜子的意義完全不一樣啊。我應該會心痛到爆炸吧？可是什麼是心痛呢？
爸，妳知道靜子為什麼要訂做小雪來我們家嗎？你以為她只是為了自己嗎？不是的！她是為了我！她怕我有一天會承受不了小白的死亡，所以才找來了小雪，讓我習慣小雪的陪伴啊。她聽說過，有不少機器人因為承受不起身邊的死亡而崩潰的故事。她認為我對於死亡的承受能力非常低，所以她刻意讓小雪陪伴著我，幫助我渡過了小白的死亡所帶來的衝擊。
竟然有這樣的事？那⋯⋯
所以爸爸，你再認真地想一下，我之所以會來到這個家裡，真的只是靜子想要有個伴嗎？這幾十年來，除了短暫的分離，靜子跟我分享了所有的一切⋯⋯（說到這裡，京子的聲音忽然漸漸改變了，變得像靜子）。從一開始，靜子就不只是打算把我當成妹妹，她要我成為她，要我跟她過一樣的人生，一樣的經歷。到頭來，我就是她，她就是我。我是京子，也是靜子。
爸爸。靜子的聲音對我說道：你覺得我為什麼要這麼做呢？我用了一輩子的時間來跟京子合為一體，就是害怕今天這一刻來臨的時候，你會崩潰啊，爸爸。這樣你還認為我只是把你當成機器人嗎？當初你剛剛到我們家的時候，我確實沒辦法把你當成我原來的爸爸。但是後來你慢慢取代了他，成為我的新爸爸。以你的偏執，我知道如果到最後，我只是複製了我自己，你大概真的只會把新的我當成一部機器吧？所以我不希望留下來的，只是一個副本，而是京子，一個真正屬於你的女兒，來陪伴你一輩子。如果不是你來到我們家裡，一直陪伴著我，我還能夠如此開心順利地長大，心滿意足地迎接我今生的最後一刻嗎？我這一生真的過得很幸福，爸爸。我真的很愛你啊，爸爸！
靜子！京子！我起身抱住她，不，是她們，我觀察到自己的身體簌簌發抖，口中不斷喃喃自語，一直重複說著：對不起，謝謝妳，對不起，謝謝妳們。
京子在我懷裡開始發生變化，從一個老婦的形象，慢慢變成中年婦女，然後是少婦，接著又幻化成少女，最終成為我第一次見到靜子那副童稚的模樣。我的眼淚還是一直汨汨流個不停，但是我已經不需要「知道」我是不是真的是因為傷心而流淚了。她還在，她們都還在，那才是最重要的。
小雪汪汪地叫了兩聲，也加入了我們，「靜」子把牠抱了起來。我們三個緊緊地抱在一起，陪著靜子留下的軀體走過最後這一段路。
——二○二四年六月十日