30 秒重點
- 核心問題：當 AI 比我們聰明之後，人類還剩下什麼不能交出去？
- 最優解不是中立的：任何最優解都建立在某一個被定義好的目標上。定義「最大化企業利潤」和定義「最大化員工幸福」，會得到完全不同的答案。
- 真正的風險：AI 非常完美地完成了我們沒有想清楚的要求。
- 預測會參與製造未來：當 AI 告訴你「這段關係背叛風險 78%」，你的行為會因為這個數字改變，最後可能真的把結果推向那裡。
- 監督方法：人類不需要比 AI 聰明才能監督它，靠的是制度：結果可驗證、可獨立重算、決策可追溯、錯了能撤回、有些權限永遠不交給單一系統。
- 2026 年該學什麼：哲學、機率與統計、心理學與認知科學、系統思考、歷史，再加上政治、制度設計、經濟學、寫作，以及一門真正的藝術。
- 一句話：智慧不等於正當性。
最近我一直在想一件事。
如果 AI 的進步速度，真的快到有一天人類無法再靠理解它的全部運作方式來介入，那我們該怎麼辦？
很多人談 AI，會談效率、工作被取代、超級智能、AGI，甚至談到某一天演算法可能會開始主導銀行、政治、軍事、教育，以及幾乎所有可以被資料化與文字化的系統。
但我越想，越覺得真正的問題可能不是：
AI 會不會比人類更聰明。
而是：
當 AI 比我們聰明之後，人類還剩下什麼不能交出去？
AI 真正可怕的，也許不是它會犯錯
而是它可能做得太好了。
假設未來 AI 可以同時模擬幾萬種政策、幾萬種商業策略、幾萬種戰爭路徑，再從中計算出一個「最優解」。
人類可能只思考了三種方案。
AI 卻已經跑完三萬種。
這時候很自然會發生一件事：
「那就照 AI 說的做吧。」
一開始只是幫我們分析。
後來幫我們選擇。
最後甚至替我們決定。
但這裡有一個很容易被忽略的問題。
最優解，從來都不是獨立存在的。
它一定建立在某一個目標之上。
你說要最大化企業利潤，會得到一個答案。
你說要最大化員工幸福，會得到另一個答案。
你說要最大化國家安全，可能又會犧牲一部分自由。
所以 AI 真正擅長的，也許是：
在你定義好目標之後，替你找到最有效的路徑。
可是「我們到底要追求什麼」，本身不是計算問題。
它是一個價值問題。
我們真正需要擔心的是：誰定義了「最好」？
假設有一天，一個國家的 AI 被要求：
「最大化社會穩定。」
乍聽之下沒有問題。
但如果它發現，限制言論可以增加穩定呢？
監控所有人可以降低犯罪呢？
把所有高風險族群排除在某些制度之外，可以讓數據變漂亮呢？
它可能完全沒有惡意。
它只是非常忠實地完成了人類給它的目標。
所以未來最危險的一句話，可能不是：
「AI 失控了。」
而是：
「AI 非常完美地完成了我們沒有想清楚的要求。」
當 AI 開始預測人類，它甚至可能開始改變人類
我們談到一個很有趣的例子：感情。
假設 AI 讀過世界上所有心理學、文學、對話紀錄、情感研究，再加上你和伴侶多年來的互動資料。
有一天它告訴你：
「你們這段關係未來背叛風險 78%。」
你原本可能只是覺得對方最近比較忙。
但當你知道這個數字之後，你開始重新解讀每一件事。
晚回訊息，是不是有問題？
手機翻過去，是不是在隱瞞？
突然對你好，是不是因為愧疚？
你開始試探、查證、懷疑。
對方開始察覺你的不信任。
他的行為也因此改變。
最後關係真的惡化。
這時候會產生一個非常難回答的問題：
AI 是預測到了未來，還是它的預測參與製造了未來？
這其實和算命有一點相似。
當有人告訴你：
「今年要注意身體健康。」
你去做檢查。
如果真的查到問題，你會覺得他很準。
如果什麼都沒查到，你也可能覺得：
「還好我有提早注意。」
當一個預測無論最後發生什麼，都能被重新解釋成「它說對了」，我們就必須非常小心。
而未來的 AI 會比算命更具有權威感。
因為它不是拿著命盤。
它會告訴你：
「我分析了八年的數據。」
這句話，對人類來說會非常有說服力。
當比較笨的體系，要監督比較聰明的體系
這才是我認為真正困難的問題。
如果 2030 年真的出現遠比人類聰明的 AI，人類要怎麼確認它說的是對的？
因為我們一直以來都很習慣一件事：
比較懂的人，擁有比較大的話語權。
但如果有一天 AI 告訴我們：
「這是最佳政策。」
我們問：
「為什麼？」
它回答：
「完整證明超過你們可以理解的認知範圍。」
那怎麼辦？
人類不能靠「比 AI 更聰明」來監督 AI。
這條路幾乎注定失敗。
所以真正的解法必須換一個方向。
不是跟它比智力，而是設計制度。
你不需要比飛機工程師懂空氣力學，才有資格要求飛機做安全測試。
你不需要比醫生會開刀，才可以要求第二意見、病歷紀錄與責任制度。
同樣的，未來 AI 的治理也不應該建立在「我完全理解它每一步是怎麼想的」，而應該建立在這幾件事上：
- 它的結果是否可以被驗證。
- 另一套獨立系統能不能重算。
- 它的決策是否可追溯。
- 如果它錯了，能不能撤回。
- 哪些權限永遠不能由單一系統取得。
智慧，不等於正當性
這可能會是 AI 時代非常重要的一條文明原則。
一個人比我聰明，不代表他有權決定我的人生。
一個醫生比我懂人體，不代表他可以不經同意拿我做實驗。
一個將軍比所有人懂戰爭，也不代表他可以自己決定開戰。
因為人類用了很長的時間，才慢慢建立一個觀念：
知道怎麼做到一件事，和有沒有權決定這件事應不應該做，是兩回事。
所以 AI 即使有一天比我們聰明一萬倍，也不代表它自動取得統治的正當性。
真正危險的反而可能不是 AI 強迫我們交出權力。
而是我們因為它太準、太快、太方便，自己慢慢說：
「這件事也交給它吧。」
「反正它判斷比我們好。」
「既然如此，為什麼還要人類決定？」
然後某一天，我們名義上依然自由。
只是已經很久沒有真正做過自己的決定。
那 2026 年正在努力學習的人，現在到底應該學什麼？
如果 2030 年的 AI 已經強到可以處理大量知識型工作，那麼今天只追逐工具，很可能是不夠的。
工具更新得太快。
真正值得投入的，反而是那些 AI 越強，人類越需要的底層能力。
我會選這幾個方向：
- 哲學：因為你需要知道，什麼叫做真？什麼叫做好？一個論證什麼時候成立？
- 機率與統計：因為未來你每天都會看到各種「87% 成功率」、「92% 風險」，但真正重要的是，你知不知道這些數字代表什麼。
- 心理學與認知科學：因為如果 AI 越來越了解人的行為，而人類自己不了解自己，權力就會變得非常不對稱。
- 系統思考：因為很多最危險的問題，不是單點做錯，而是一個看似正確的決策在整個系統中產生連鎖反應。
- 歷史：因為 AI 很新，但人類面對權力、恐懼、利益與技術革命的反應，其實一點都不新。
還有政治、制度設計、經濟學、寫作，以及一門真正的藝術。
因為當 AI 可以生成十萬個答案之後，人類真正需要做的事情，可能不是再多生成一個。
而是決定：
哪一個值得留下。
AI 越來越會回答問題，人類越需要學會提出問題
我以前會覺得，AI 時代最重要的能力是會不會使用 AI。
現在我反而覺得，那可能只是第一層。
更深的一層是：
你知不知道自己要什麼？
你知不知道什麼東西不應該被最佳化？
當演算法告訴你某條路最有效率的時候，你還有沒有能力說：
「我知道，但我不要。」
人類的感情、藝術、尊嚴、自由、信念，很多東西可能本來就不是為了達成最高效率而存在。
我們甚至可能會故意選擇不是最優解的東西。
愛上一個不完美的人。
花很多年做一件沒有商業價值的事。
為了一個原則承受損失。
做一件統計模型認為成功機率很低的事。
從演算法的角度看，這些選擇可能很不理性。
但也許這正是我們需要留下來的東西。
如果 2030 年真的出現超級智能，我希望它回頭對 2026 年的人類說的，不是：
「你們應該更努力追上我。」
而是：
「不要把更聰明，誤認成更值得服從。」
AI 的答案可能會越來越便宜。
真正昂貴的，會是判斷。
知道什麼值得問。
知道什麼值得相信。
知道什麼值得做。
以及在所有系統都告訴你「這是最佳解」的時候，仍然知道：
有些事情，人類選擇它，不是因為它最好。
而是因為那是我們決定要成為什麼樣的人。