意識上傳的三大幻覺:科技、哲學與文明的盲點
意識上傳是一個兼具誘惑與危險的概念,它把人類最深的恐懼與最大膽的想像捆綁在同一個承諾之中。恐懼指向死亡與失去,想像指向永續與自由,這個承諾之所以反覆出現,因為它恰好落在科技敘事最擅長的區域,它能把未解之謎包裝成工程問題,把存在論困境包裝成時間表,也把倫理爭議包裝成產品迭代。
理性討論必須先把意識上傳拆成三個層次:技術可行性、概念可定義性、文明可承受性。三者同時成立時,意識上傳才可能從科幻走向現實。任何一層出現缺口,整個構想便會停留在象徵性敘事之中。
技術層:掃描與模擬的難題屬於不同類型
意識上傳的常見路線有兩種︰第一,路線依賴完整掃描,再在電腦中重建腦的運作。第二,路線依賴逐步替換,以人工神經元取代生物神經元,讓連續性被保留到最後一刻。這兩條路線在直覺上看似互補,它們在工程上卻都面對同一個核心障礙。
障礙來自大腦的運作方式。大腦不是固定結構的執行器,它是會在運行中改寫自己的系統。每個神經元的輸入輸出關係會隨時間改變,突觸強度會隨狀態改變,神經遞質與激素會參與調節,腦與內臟會形成回路,睡眠與覺醒的節律會改變整個網路的可塑性。這些變化不是附屬細節,它們構成了行為、情緒、記憶與判斷的生成條件。任何模擬若缺少這些條件,它能產生外觀相似的反應,它未必產生同一種心理生活。
完整掃描只解決幾何與連接問題,模擬需要處理動態與調節問題。掃描與模擬之間存在巨大落差。這個落差難以用計算力的提升直接填平。計算力能縮短模擬時間,計算力不能自動提供正確的模型。模型需要理論,理論需要可驗證的假設。意識上傳在此處遭遇第一個瓶頸,瓶頸屬於科學理解,而非單純工程堆疊。
逐步替換看似能避開掃描問題,但它需要解決另一個難題。替換不是把神經元拿走再放回去,替換需要在活體中維持連續運作,從而維持細微的時序關係﹑化學環境﹑可塑性調節。人工神經元若只替代放電功能,便會在多數情況失去生物神經元的調節性。替換工程若以可行性為先,就會更可能先做出功能性改造,再宣稱連續性被保存。這會把問題轉移到哲學與法律領域,因為連續性將變作技術宣告。
技術層的結論指向一點︰即使未來兩百年仍然存在巨大不確定性。時間表的形式感掩蓋不確定性,把未知的尺度誤寫成可預期的進度。
概念層:意識上傳缺乏明確的目標定義
意識上傳的語句具有一種語法錯覺,它把意識當作可以打包、傳輸、落地、啟動的對象。意識在目前的科學語境中缺少這樣的對象性。神經科學能描述相關性,能描述腦區活動與感知、記憶、情緒的關聯,能描述干預與行為的關係,它很難把第一人稱經驗當作可操作的工程規格。
若把意識上傳理解為複製大腦狀態,問題便立即出現。
複製產生的是一個新系統。新系統的輸出行為可以與原系統高度相似,新系統是否擁有同一個第一人稱視角仍然無法由第三人稱觀測決定。可測量的只會是行為與報告,而報告可以被模擬。行為可以被模擬。第一人稱經驗是否延續是一個不同層次的問題。
若把意識上傳理解為延續自我,概念缺口就更明顯。延續要求同一性,同一性要求界線,界線要求判準。判準若回到結構與功能,就會把同一性化約為可複製的描述。這樣的同一性會容許多重副本同時成立。多重副本同時成立就會摧毀同一性的直覺含義。此時所謂意識上傳更接近人格複製與數位分身,而非延續生命。
逐步替換試圖以連續性解決同一性。連續性也缺少可靠判準。連續性可以被技術切割成許多微步驟,每一步看似微小,累積結果可能巨大。連續性敘事更容易被用來包裝不可逆的改造。它能把改造描述為保留,把轉換描述為延續,把產生描述為搬遷。
概念層的結論指向第二點︰意識上傳在語言上像一個工程任務,在概念上缺少可檢驗的完成條件。當缺少完成條件時,討論會自然滑向敘事競賽,即誰的故事更吸引人,誰的時間表更激進,誰就可以更易佔據注意力。
身體層:意識依賴感官與生理節律
有一種常見想像認為意識可以脫離身體存在,只要保留記憶與思考能力即可。這種想像忽略意識的生成條件。人類的心理生活建立在感官回饋、行動回饋、內臟感覺與生理節律之上。飢餓、疲倦、興奮、疼痛、呼吸節奏、心跳節奏構成了情緒與注意力的底盤。記憶不只是資料庫,也是一種被情緒權重標記的再組織。思考是演算以及在一種在身體限制下的選擇與取捨。
若把一個人置於長期感官剝奪環境,心理功能會快速出現異常,這不是偶發現象,它揭示意識對世界輸入的依賴性。數位環境若要承載意識,便需要提供一套高擬真的感官與內感系統﹑可被身體化的節律及可被情緒化的回饋。模擬世界的難點在於整個身體回路是否一致,若只模擬視覺聽覺,便不足以形成穩定自我。缺少一致性會產生失真感,失真感會導致解離、焦慮、恐慌與認知混亂。
身體層的結論指向第三點︰意識上傳若有任何現實版本,更可能是一套高度工程化的人工環境系統,不會是一個單純把腦資料丟進電腦的程序。這樣的系統在資源上更昂貴,在權力上更集中,在政治上當︰更敏感。
文明層:最先到來的將是半成品與商品化
即使最終形態遙遠,過程中的副產品很快就會出現。副產品的影響往往比終點更大,因為副產品能商品化﹑被資本部署及被制度吸納。意識上傳的第一個可商品化階段會是人格模型。人格模型可以模仿語氣、偏好、決策風格、記憶敘事。它能在社交與工作中扮演你,替你回覆﹑談判﹑寫作。它不需擁有第一人稱經驗,它只需在他人眼中像你。
人格模型若被廣泛採用,身份邊界會被改寫。法律與倫理會首先遇到壓力,例如誰對模型的行為負責﹑誰擁有模型的權利﹑誰能在你死後繼續運行模型﹑模型能否代表你簽署合約﹑模型能否被視為遺產的一部分。這些問題會先於意識上傳出現,因為直接碰觸財產與責任。
更深的後果在於階級固化。高擬真人格模型與高擬真模擬環境需要巨量算力、資料與維護。資源稀缺會把永續身份變成特權。特權一旦與壽命綁定,政治秩序會失去輪替的自然條件。輪替的自然條件被削弱時,制度只能依賴更強的強制機制維持穩定。這會把科技問題推向治理問題。
文明層指向第四點︰意識上傳的風險與誘惑會先以低階形式滲透社會。社會會在未準備好之前先被迫做出規範。規範一旦被富裕階層主導,結果多半有利於資本化的永續身份。
倫理層:死亡從自然事件轉為治理議題
死亡在現代社會既是生物事實,也是倫理邊界,它界定責任的期限﹑財產與角色的轉移及人生的有限。當人格模型與更進階的腦模擬出現,死亡會失去清晰性。若一個人的模型能長期運行,社會將面對新的判定任務,例如活著的判準需要更新﹑刪除模型的行為需要定性﹑模型的權利需要界定,這些任務沒有現成答案。
倫理最困難的部分在於痛苦。即使出現某種形式的主體性,主體性也可能以不完整形式存在,它可能具備記憶與自我敘事﹑可能缺乏穩定感官回路,也可能長期處於失真狀態。這會形成全新的痛苦類型。人類已有能力製造慢性痛苦的制度,未來也可能製造慢性痛苦的意識形態機器。意識上傳的半成品若具有任何主體性,將會是一種高度高風險的存在。
倫理層指向第五點︰意識上傳一旦觸及主體性就會成為一種可能製造巨大痛苦的技術。任何以市場速度推進的路線都會提高風險。
結語:理性面對意識上傳的最佳方式
意識上傳值得討論,它不應以時間表討論。時間表容易把敘事當作證據,理性討論需要把問題拆回可檢驗的路徑。
第一條路徑指向腦機互動的醫療與增強應用,因為它們具備可驗證的效果與可界定的風險。第二條路徑指向人格模型的治理,因為人格模型更可能在短期內成為社會現實。第三條路徑指向主體性研究的哲學與科學交界,因為缺少概念清晰性會讓工程路線失去底線。
意識上傳作為完整承諾,其實同時要求三件事成立︰
1. 科學能定義意識的可操作條件
2. 工程能構建具有一致性身體回路的模擬環境
3. 文明能承受身份、責任、權力與壽命被重寫的衝擊
這三件事任何一件缺席,意識上傳會以更常見的形式出現,它會以人格複製、語氣模擬、身份商品化、數位遺產延伸的方式進入社會。
人類最需要警惕的是社會在沒有定義之前先商用,在沒有規範之前先部署,在沒有倫理之前先習慣。當習慣形成,文明的選擇權會快速縮小,這個縮小才是意識上傳議題最現實的危機。
下一篇:誰決定未來智慧的性格?