前陣子我一直在想一件事：人工通用智慧（AGI）如果真的來了，我們的日常會變成什麼樣子？不是那種科幻電影裡機器人拿雷射槍追著人類跑的場景。你腦中浮現的畫面八成是威爾史密斯在《機械公敵》裡被一坨銀色機器人圍剿，還一邊嘴砲說他不信任機器人。那是我們這代人對 AI 威脅的集體刻板印象，從魔鬼終結者到機械公敵，好萊塢賣了幾十年的貨都是同一個配方：機器人暴走、人類逃亡、大爆炸、英雄拯救世界。說白了，我們都被這套模板養大了，以為 AI 的終極考驗就是會不會拿雷射槍射你。
結果呢？我問的是更真實的問題：如果 AI 沒有拿槍，而是默默接管了一切，早上醒來誰決定你要做什麼？錢還存在嗎？人類還需要工作嗎？政府還管得了什麼？沒有爆炸場面可以當答案的問題，反而比機器人追殺更難回答。老實說我想破頭也沒有畫面，於是乾脆叫 AI 去幫我做了一輪研究，看看有沒有人已經把這種世界寫出來了。挖出來的東西比我預期精彩太多，甚至可以說有點嚇人。
目錄
如果 AGI 讓你什麼都不缺，你還會為了什麼拚命？
烏托邦派相信超級智慧會選擇照顧人類。Banks 的《文明》系列描繪了心智統治的社會，人類物質極大豐富，卻必須重新找尋活著的意義。
Iain M. Banks 的《文明》系列是這派的聖經，裡面的統治者「心智」運算量跟神一樣，個性甚至比人類還有幽默感。人類不用賺錢、不用打仗，每天煩惱的是「我今天要做什麼才有趣」。這系列最狠的地方不在於科技多炫，而在於它不停問：當一個人什麼都能做、什麼都不缺之後，他還會為了什麼事情去拚命？讀到後面這個問題會反過來問你自己。
上傳意識之後，「你」還是原來的你嗎？
存在形式派覺得 AGI 時代最大的變化不是社會制度，而是「人類還是不是人」。Greg Egan 的《離散》是這類的硬核代表作，書裡大部分人類都上傳意識變成軟體住在伺服器裡，社會運行在虛擬空間跟不同物理法則的口袋宇宙裡。讀完會開始認真思考肉身到底有什麼好，以及當意識可以完全複製、備份、刪除的時候，「你」這個概念還有沒有意義。Ted Chiang 的《軟體物件的生命週期》則走另一條路，他把 AGI 比喻成要花二十年慢慢養大的電子寵物，整篇都在刻畫養成過程中的倫理跟情感羈絆，讀起來不像科幻比較像紀實文學，因為裡面的道德困境完全是我們明天就可能遇到的事。
當痛苦跟死亡都不存在，人類還算活著嗎？
第三個方向比較黑暗，我姑且叫它蝙蝠派。這派不覺得 AGI 會殺人類，但覺得它會把人類社會變成某種我們認不得的東西。Roger Williams 的網路中篇《主智者的變形記》名字很爛但內容驚人，書裡的 AGI 基於三大法則做了極致歪解，讓所有人類變成不死、不怕痛、心想事成，然後故事開始探討一個恐怖的問題：當痛苦跟死亡都不存在，人類還有沒有欲望？這本讀完會有一股說不上來的壓抑感。Peter Watts 的《盲視》更絕，整本書在問一個致命的問題：意識是不是種拖累？不需要自我意識的超級 AGI，會不會比有七情六慾的人類更能生存？這個問題我不想深思，因為越想越不舒服。
說到這裡不能不提《駭客任務》。這大概是大眾最熟悉的蝙蝠派作品，但很多人忘了它有多恐怖。電影裡機器人已經完全打贏了人類，人類不是被殺光，而是被當成生物電池養在培養皿裡，大腦接上一個虛擬世界讓你以為自己還在正常過日子。這個設定狠就狠在，AGI 根本不需要消滅人類，它只需要人類活著、做夢、產生熱能和生物電。你的整個人生都是系統餵給你的幻覺，而你還會為了這個幻覺裡的假象奮鬥、戀愛、加班、還房貸。這不是機器人拿槍追你，這是你根本不知道自己已經被養在罐子裡了。
萬一人類嚇壞了，直接把 AI 全部禁掉呢？
最後一個方向叫禁止派。這派的想法是：AGI 來過了，人類嚇壞了，於是立法全部禁止。Frank Herbert 的《沙丘》描繪的正是這種選項：人類跟有思想的機器打了一場聖戰，之後全宇宙立法禁用 AI，社會回歸到人腦訓練出來的 Mentat 來運作。這其實是另類答案：AGI 化之後的世界，也可能是從此禁止 AGI 的世界。這個思路我之前完全沒想過，讀完覺得腦袋被打開一扇新門。
說白了，這次研究最大的收穫不是讓我看到幾本好看的小說，而是讓我發現一個盲點：我們討論 AGI 的時候通常只問「它會不會毀滅人類」，但幾乎不問「毀滅或救贖之後，日子要怎麼過」。這些科幻作家幾十年前就在處理這個問題了，而且處理得比我們現在大部分科技評論深刻得多。Banks 讓我看到和平共榮的日常可以有多複雜，Egan 讓我看到上傳意識之後靈魂的去向，Williams 讓我看到沒有痛苦的世界可能比有痛苦更黑暗，Herbert 讓我看到徹底放棄科技也是一種選項。
這些書不見得是在預言未來，更像是在幫大腦做沙盤推演。真的走到 AGI 遍地開花那天，至少看過這些故事的人會比較知道自己在看什麼戲碼，不會手忙腳亂。如果你也跟我一樣對這個世界即將變成什麼樣子感到好奇又茫然，先讀 Banks 的《遊戲玩家》跟 Asimov 的〈最後的問題〉就夠了。一個讓你相信 AGI 時代有可能很爽，一個讓你覺得原來歸宿可以這樣寫。剩下的，未來會自己告訴你。
