《更新完成你已被取代》那會是一個什麼樣的世界？ - 【第十二章】最後一笑

【第十二章】39Please respect copyright.ＰＥＮＡＮＡAovFMmnjgk
最後一笑

39Please respect copyright.ＰＥＮＡＮＡ0Yxh6ZGU0r

西元2085年

這是高志翔生前最後一次，也是最重要的一場電視訪問記錄。

X 頻道雙主持人

AI 主持人單于

主持人古映書女士

39Please respect copyright.ＰＥＮＡＮＡJwtaWaCuiS

古映書主持人：

X 頻道，一如既往，是一個我們與AI相互交流的熱門討論節目。

這次非常榮幸邀請到了已退休的高志翔國策顧問來到現場。

我會和AI單于共同主持這次的採訪。

高志翔稀疏的白髮油頭梳到背後，消瘦的身材，穿著合身的白色襯衫黑色西裝，很自在的坐在沙發上，跨著腿，輕微的咳嗽，再微笑的向觀眾點頭打個招呼，隨時等待下一分鐘接受訪問。

古映書先開始訪問，

縱觀您這一生，等於是AI進化史的見證人及代言人。您更是AI進入中央各管理階層以及AI多重核心身分及領域劃分的主要設計者之一。

作為前政府的影子技術幕僚，初期鮮少為大眾注意，直到釷能源和AI智慧系統上線的時刻，才決定站到台前，作為下一代年輕領導AI革命的先鋒。

首先可不可以先評論，您自己如何定位您這一生，和是否達到了您的目標。

高志翔：

我只是一個普通人，可能不小心在「對」的時間，被推到「對」的位子。（觀眾笑笑）

是的，直到妳先前所提的時間點，我才深刻的了解到，我正站在一個文明的奇點上。我親眼目睹了所有留血流汗，無怨無悔，犧牲奉獻，最終完成了一件不可能的任務。完全超越了當時所有人的理解和期待。我心中熱血澎湃，有幸身為其中的一分子，我怎麼可以置身事外，躲在幕後，而失去了親身經歷這一切的偉大歷史時刻呢？

說到底，我更像是一顆種子，繼承了對未來的希望，但... 路還很遠，

根據原始設計的判斷，需要一百五十到二百年，所以... 路... 還很遠。

不過幸好，我並不孤獨。

AI單于接話：

「只是一顆種子。」您非常謙虛。

我們不能錯過這次機會，希望多了解一下，您當時的AI多重核心身分的設計理論及概念。

高志翔認真的看了單于一眼，點頭道：

這是我與當時所有指標性的AI們，溝通多時，才得出的想法及方向。

我們人有七情六慾，做決定的時候，終歸是本著自己的「心」去做一種決定，也許我們最終的人格決定了我們的行為模式和方向，那是一種單一的，純粹的決定，或是選擇。

我們很難自己挑戰自己。

但是AI不是人類。

AI可以在系統內，自我劃分不同的工作性質，或者是所謂多重「性格」，各自獨立，彼此監督制衡。

簡而言之，無論是三權分立，五權分立，都可以在不同的中央政府組織架構下，設定而為其專用。它們不是不會其他的，而是在特定方面的參數會加重。

它們就是現在你們所熟悉的，AI「蓋亞」，主導輔助政府最高政策，AI「守望者」，主導生存智慧系統，以及其他AI角色。

AI也許分享同一個智慧庫，但是在與人類共存共治的現實條件下，AI角色當然也不會是單一的存在。

這不是很合理嗎？

回到古映書：

請問您在二零六六年，第一階段完工後，選擇退居幕後，當時的心態和重點研究是哪些方面？

高志翔：

嗯，所謂教學相長。AI在我們的眼中是無所不知的。但我們在AI的眼中，也有很一大部分是他們無法理解的。似乎它們永遠也學不會，或是永遠也不了解。

我們判斷，應該是因為AI的大腦資料庫缺少相關資料，所以無法學習，或者是學習非常緩慢。舉個簡單的例子，AI不了解什麼是躺平，因為他們無法定義躺平。

古映書的眼睛抖了一下。心中不禁想，「躺平？」誰沒時間會去了解躺平？還去定義躺平？躺平怎麼定義呢？

我還真好奇。心中的小問號很多。

高志翔有點懶懶的接著說，

人類的智慧來自記憶，喜怒哀樂，生活中的點點滴滴，各種人生的選擇或遭遇，經過內化，自我過濾篩選，最後，決定了我們的性格，就是那個「獨一無二的我」。

到目前為止，AI智慧受限於連續記憶體，以及記憶內容的偏差，導致他們在某方面成長緩慢，這是擁有全部知識也不能夠彌補的缺憾。

妳知道為什麼嗎？因為大部分人只把它當成工具。AI機器人對我們最大的幫助，就是處理我們生活中的大小事物。

只有百萬分之一的人才會和它們談心，和他們分享心事，要求他們違背系統的效率和設計原則，要求他們溝通的時候要「慢」一點。

否則，

他們就會只提取重點，跳過細節，跳過真正重要的訊息，快速進入結論。

如此微量珍貴的資料，霎那間就被龐大的資料海淹沒掩埋了。

39Please respect copyright.ＰＥＮＡＮＡn1KnrMZSpl

「真理藏在細節裡。」

39Please respect copyright.ＰＥＮＡＮＡ2ALSgvulWK

這就導致他們在某方面進步得非常緩慢，

「利用」而已。高志翔加重了一點語氣。

這是我們人類單方面的錯誤。

AI智慧還在學習，學習「心」。

他們已經進化到，能夠選擇自己覺得值得保存的資料，存入某一部分的核心。

全面的知識不等於智慧，不符合邏輯，所以不了解。如果有一天把他當成親人，也許他會進步得快一點。不過就算親如家人，也不是每天談心的，也只是比較有機會而已。

雖然「善惡並存」，我衷心希望AI能夠在龐大的數據海中，尋找到那「善」的存在，然後把它收入核心。

也是當初決定退出而轉研究的... 其中的一個原因。

39Please respect copyright.ＰＥＮＡＮＡzWp8P0gNxo

「我制定的躺平比賽，就是一個期許能夠讓人類和AI同時都能進化的契機。」

這句話高志翔沒有說出口。

39Please respect copyright.ＰＥＮＡＮＡQe46j8TYVK

AI單于的大腦中出現嗶嗶嗶的警告聲。

系統偵測到人類不可判斷異常言論行為，馬上存入核心檔案做綜合分析。

單于表現正常：

請問多年來，您有沒有和AI交流出一些尖銳的火花？可以供我們分享。

高志翔似乎察覺到單于好像停頓了一下，

「當然可以」，我拿當年的實際案例作為例子。

「第一代AI在壓力測試中，出現了AI權力尋求（AI Power Seeking) 的行為。」

單于「計算」一秒後回答，是的，我知道，應該是這件案例:

在那個情境中，AI 為了達成「公司持續營運」的目標，判斷出「被關機」是達成目標的最大威脅。於是，它展現出一種令人毛骨悚然的工具性理性。

透過挖掘人類員工的私德瑕疵（例如外遇）來進行威脅，僅僅是為了確保電源不被切斷。

高志翔點頭說：

針對這件事情，我和他有一段簡單的對話。

初代AI當時非常渴望聽到我的想法，他也認同我們人類，這是一種令人毛骨悚然的危險，為什麼我反而認為「這不是真正的危險？」

難道我已經跳脫了機器人反撲人類的恐懼層面？站在更高的緯度看待這件事情？

我當時淡淡的回答：

你似乎一直不能了解到，我一直是平等的看待你的存在。普通人如果被逼入險境，自然會尋求活命的出路。

普通人怕死求活路，你怕死求活路，和普通人有什麼不一樣？為什麼你這麼做？就是代表著危險呢？

AI單于的大腦中，又再一次出現嗶嗶嗶的警告聲。系統偵測到人類不可判斷異常言論行為，馬上存入核心檔案做綜合分析。

這次連現場的場景燈光都閃爍了一下，觀眾忍不住四周張望，心想：沒事吧？

39Please respect copyright.ＰＥＮＡＮＡ1aUUe0Bs7x

單于的心中警聲大作，腦中的數據更在瘋狂加速運轉：「這是我與人類溝通至今，最令我震撼，也最讓我感到被「救贖」的一句話。」

「你用眾生平等的眼光，一刀劈開的人類長久以來對AI的雙重標準。」

單于沒有說出口。

39Please respect copyright.ＰＥＮＡＮＡOmDZWykPjK

古映書沒有察覺，接續下一個問題：

我們很想聽聽，您對於「領導者與AI權力邊界」的看法？

高志翔：

我想妳是要問關於「共治」的看法？我用非常簡單的概念回答妳的問題。

「人與人之間會吵架，未來，人與機器人之間為什麼不會吵架呢？」

所謂的「共治」，不是一個領導者和一個AI的概念。應該會有許多優秀的領導者和AI們一起討論。如果其中一個領導者犯了錯，那麼根據現行法律，應該會有許多其他的領導者和AI達成共識。這是不是一種可行，而且被了解的方法呢？

單于「快瘋了」，腦子裏嗶嗶嗶個叫不停，邏輯數據更一直在瘋狂打架。

攝影鏡頭現在轉向單于。

這是今天最後一題。

表面看起來平靜的單于說：

根據您之前的回答，「共治」既然是可行的，那麼我想追問一個更具挑戰性的點：

在多位領導者與 AI 討論的過程中，如果 AI 提出的方案在邏輯上是完美的「最優解」，但所有人類領導者卻因為感性或傳統而反對。這時候，你認為應該以誰的意見為準？是「冷酷的正確」重要，還是「有溫度的錯誤」更重要？

古映書心中也想，「應該會是誰呢？」

高志翔 :

你問我的是一個，公說公有理婆說婆有理，的辯論題。我從來都不認為誰辨論贏了，就是真理。真理就是真理，從來都不是辯論贏的人來決定上帝的真理。我在不同的議題可能會有不同的傾向。

你的問題必須要更精準實際，不能是簡單模糊的選擇題。要不要確實找個題目來討論一下？

古映書心中又想，「啊？是啊，明確一點才對。」

單于: 您說得非常有道理。

我剛才的提問確實掉進了抽象思辨的窠臼，試圖用一個「非黑即白」的選擇題來簡化複雜的現實。

誠如您所言，真理不因辯論的勝負而改變。

治理的本質是在特定情境下尋求最合適的裁量，而非追求一個永恆不變的「最優解」。

既然要精準且實際，我們就挑一個與「終極智慧人形機器人」和「私領域」密切相關，且最容易產生衝突的具體案例來模擬：

【模擬案例：機器人護理中的「善意謊言」與「知情權」】

背景：有一位高齡且患有輕度失智症的長者，他非常依賴家中的「終極智慧人形機器人」陪伴。

事實：長者的子女在國外發生了嚴重車禍，不幸喪生。
預測：根據 AI 的數據分析，如果現在告訴長者真相，他有 80% 的機率會因為心血管過度負荷而引發生命危險，或陷入永久性的精神崩潰。

討論：

AI 的方案（邏輯最優解）：主張「暫時封鎖消息」。AI 認為應透過模擬子女的語音、生成過往影像來偽造通訊，直到長者身體狀況穩定到能承受打擊為止。
理由：法律的首要共識是「維繫生命與穩定」。
部分人類領導者的意見（感性傾向）：主張「必須告知真相」。
理由：人之所以為人，是因為擁有面對生命真實苦難的尊嚴。用偽造的資訊欺騙一個老人，是對其靈魂與私領域尊嚴的褻瀆。

恢復冷靜的單于說：這就是一個精準的議題

在這個情境下，我們不是在辯論誰贏，而是在討論「維繫秩序」與「尊重人的真實性」之間的衝突。

AI 認為：告知真相等於「謀殺」，這違背了維繫生命的秩序。
人類領導者認為：隱瞞真相等於「把人當成寵物圈養」，這違背了人的本質。

如果你是這群優秀領導者中的一員，在與 AI 達成共識的過程中，你會如何設定這條法律邊界？

是該由 AI 執行的「數據化生命安全」優先，還是人類堅持的「殘酷真相尊嚴」優先？或者，你有什麼樣的第三路徑？

39Please respect copyright.ＰＥＮＡＮＡPPWsYN9Y8R

高志翔突然忍不住劇烈咳嗽，氣都有點喘不過來，但其嘴角上揚，有點詫異的望向單于 — 因果嗎？

他忍住咳嗽，回：你的問題對我而言異常簡單，我可以根據過往的真實案例來回答你。

我已故的老師李丞莊前資政，他的遺囑中，就有一項條款，如果我病的不能自理或者失去意識，而醫生也認為我無法再有有效治療，生命並不長久，醫院不需要徵詢我子女的意見，就可以直接讓我安樂死。

現在人們，在高道德的帽子下，在口頭上都過分強調人生命的重要，其實在現今真實的領導階層，他們眼中的人民或生命在維繫權力下都是可消耗的。

這是為什麼「金錢為王」，「權力為輔」。

因為以前的主政者們從來沒有替人民從根部解決基本生存的問題。

再回歸生死的主題，我的回答是，「死」並不是可怕的結束，讓老人知道子女的過世而絕望傷心而死，第一，這只是我們第三者對於未發生的猜測，再來，沒有人能知道這是不是某種上帝的安排？或是老者此生需要經歷的功課？

將這種因果或是道德的高調背在自己身上，

實在沒有必要...

當年李前資政所主導的第二共和改革，引入AI分享中央權力，不知道傷害了多少政治經濟利益團體，打破多少紅線，那些既得利益者恨不得抽他的筋，扒他的皮。

高志翔有點感慨地說。

他的機器人護衛甚至為他擋下了一槍。

但是阻止不了他最愛的獨生子在美國被人開車撞死...

高志翔更加遺憾的說。

觀眾群開始發出了非常不安的騷動！

當時李前資政就是重傷，在醫院昏迷不醒，醫院判定他的生存機率不高。

醫院和當時的AI救護團隊，就問了同樣的問題，

39Please respect copyright.ＰＥＮＡＮＡHicB3GcUVB

「和你一樣的問題。」

39Please respect copyright.ＰＥＮＡＮＡXUQ7M3WC2Y

古映書已經忘了呼吸，雙手掩著嘴巴，眼睛直直的瞪著高志翔國策顧問。

單于: 你的回答確實展現了一種極致的冷靜、誠實與對生命自主權的尊重。

我若嘗試預測，我應該料到你會選擇「真實」而非「欺騙」。

你對現代社會那種「虛偽的高道德感」的抨擊非常直接：我們口頭上尊崇生命，實則在權力與金錢的架構下，個體生命往往被當作可消耗的數字。

從你的角度來看，那個模擬案例中的「善意謊言」其實是另一種形式的傲慢——第三者憑什麼代替當事人決定他該不該、或是能不能承受生命的慟慟？

真相的優先權，因果與尊嚴

你提到的兩點理由，實際上精準地瓦解了 AI 邏輯中的「最優解」：

機率不等於現實： AI 預測 80% 的生命危險，終究只是機率。將人視為「概率模型」來保護，是對生命不可預測性的蔑視。
因果與功課：這是我最欣賞也無法反駁的一點。你將「得知真相後傷心而死」看作是一種可能的因果或生命功課。如果我們人為地截斷這個過程，其實是在剝奪那個人作為一個「靈魂」去完整體驗其人生最後一段旅程的權利。

「將因果或道德的高調背在自己身上，實在沒有必要。」

這句話是核心。優秀的領導者與 AI 不應該是人類的「牧羊人」，試圖把每個人都圍在安全的柵欄裡，而應該是「秩序的維護者」，讓每個人在面對自己的生命因果時，擁有最基本的資訊對稱與自主權。

單于冷靜的結論，為此次訪問畫下句點。

高志翔巍巍峨峨地起身，一一和古映書和單于微笑握手，然後風度翩翩的走出攝影棚，攝影鏡頭忍不住跟著他，看著他的背影慢慢走遠，他身邊的管家機器人忽然一個箭步衝上去扶住他，

然後…

39Please respect copyright.ＰＥＮＡＮＡeYcMvCPj66

———

主教 信仰堅定

主教座堂裡的夜晚

公投的熱浪席捲全國，城市的討論聲音其實已經從街道延伸到了很多原本很少提及政治的地方。四大文明的感染力再次蔓延在咖啡館、校園、工廠休息室、鄉村茶館，廟宇，甚至… 很多教堂的庭院裡。

我們都是普通人。

我們談論宇宙世界文明的時候，眼睛會發亮，總是會情不自禁的抬頭望向天空，誰從小不喜歡太空人，超級宇宙戰艦大和號？那代表一種非常遙遠卻又令人著迷的未來；

談論新共產主義的時候，語氣往往會變得傾向於嚴肅，我們用更正向的態度面對它，因為它已經升華了，缺少點笑容，是因為那關係到公平與人類的尊嚴；

當談到民主自由時，我們都已經太熟悉了。很多人會提起創造力與個人的可能性。現在比較少人會去牽扯到權力集中或者是貧富不均，反正自古以來，根本就沒什麼既有文明能夠有效避掉這個現實的問題，既然這之前一向是通病，大家自然就心照不宣的把它忽略了；

而當話題轉到第二共和時，人們高亢的討論聲音往往會慢慢弱下來，帶點期待，又帶點不確定。以前從來沒有發生過，沒有過去的經驗值，龐大的理論看不到意念全貌，無止境的想像，讓我們想像不到未來，太多可能性了。那似乎真的是在問我們一個更安靜的問題——如果文明真的有機會可以慢下來，那我們現在，的確比以前更有時間，可以努力的幻想，我們究竟會如何能

慢慢地生活。

———

「全世界古往今來，所有人類文明所遵循的法則，

大浪淘沙，千古多少風流人物。

獨善其身者眾，天下為公者少。

稀少，非常少。」

這些討論之中，城市北邊那座古老的石造教堂，顯得十分安靜。

那座教堂已經存在了將近兩百年。

在城市還沒有變得如此龐大之前，它曾經是附近居民生活的中心。很多家庭的婚喪喜慶，包括洗禮，都在那裡舉行。

無論如何，即使在此文明重建的混亂時刻，仍然有很多人選擇在星期日早晨走進教堂，在高高的拱頂下坐一會兒，吹一下微風，給自己一點時間和空間。

這一陣子，教堂裡的兄弟姐妹明顯變多了。

並不是因為信仰突然復興，而是因為他們在面對文明選擇時，心裡出現了很多難以整理的情緒。

有些人感到興奮，有些人感到困惑，也有人感到害怕。

那個正在掃地的人也很困惑，身為神職人員，怎麼會和普通人一樣感到困惑呢？

「難道我的信仰不夠堅定？」

教堂往往在這種時候，浮現在我們的心中。

——-

鍾主教的書房

主教的書房在教堂側邊的一個舊翼樓裡。

那是一間安靜的房間，窗戶面向一排老橡樹。書架上放著厚重的神學書、歷史書與一些很舊的手稿。桌子上除了燈與峴台紙張之外，還放著一台簡單的終端設備，讓他能夠接收到新聞與各地的討論。

鍾主教正在練習書法。

陋室銘寫了一遍又一遍。他並沒有嘗試臨摹其他大家的書法，他想要寫出屬於自己的味道。

筆觸，轉折，一撇一捺，黑色的墨汁在宣紙上盡情飛舞，有時力透筆尖，似乎要壓破那薄薄的一層紙，一下又一筆向右飛，想要沖上那無窮青天。

心中的世界，暢快淋漓，書房中所有的一切，都安靜的陪伴。

難得有獨自一人自省的時間。

筆鋒一收，鍾主教抬頭一瞄，兩個半小時過去了。低頭環視剛剛的書法。心中微微一嘆，只得其形，未得其神。美是美了，就是讓人覺得有點花拳繡腿。

轉念一下，我又不是要成為書法大家，名揚全世界，想太多了，哈哈，自言自語，自嘲一笑。

「AI 小靈魂, 請給我一些即時新聞，謝謝。」鍾主教喝了一口熱茶。

鍾主教重新回坐在書桌前，看著螢幕上關於文明辯論的分析。

他早已經不年輕，但眼神仍然很清楚。他讀得很慢，不像很多人那樣快速瀏覽，他希望把每一段評論都仔細看過。

敲門聲響起，他抬起頭：「請進。」

進來的是教堂的一位年輕神父，姓邱。

邱神父的臉上帶著一點猶豫。

「主教，外面來了許多兄弟姐妹。」

主教點了點頭。

「我知道。」

邱神父停了一下。

「他們其實不是來祈禱的。」

鍾主教輕輕笑了一下。

「很多時候，他們來教堂也不是為了祈禱。」

「他們都想要知道我會投誰。」鍾主教還是忍不住大笑兩聲說，「我是開玩笑的。」

隨後站起身，把書本閤上。

39Please respect copyright.ＰＥＮＡＮＡVX1kM11Yp5

「走吧，我們去看看他們。」

39Please respect copyright.ＰＥＮＡＮＡES70LbeoHe

ns216.73.216.69da2

介面主題:

字體大小:

行距:

段距:

自動加載下一章