第三章 · 機器如何思考
第三章 · 機器如何思考
「地圖不是蹟領土。模型不是心智。」
不神化，也不矮化
要和 AI 建立明智的關係，我們需要了解它實際上如何運作——不把它神化（「它活了！」），也不矮化它（「它只是計算機」）。真相比兩個極端都更有趣。
大規模的模式辨識
現代 AI（特別是像 GPT 和 Claude 的大型語言模型）的核心工作方式大概是這樣的：
- 訓練： 模型讀數十億頁的文字——書籍、文章、對話、程式碼、詩歌，人類寫過的所有東西
- 模式吸收： 它學習哪些詞語、想法和概念傾向於一起出現，以及以什麼結構
- 預測： 當你問它問題時，它根據這些模式預測最有幫助的文字序列
- 精調： 人類回饋教它更有幫助、更準確、更安全
這意味著什麼
AI 不像你認識媽媽的臉或雨的味道那樣「知道」東西。它吸收了人類知識的統計模式。這非常強大——但和人類認知有根本的不同。
機器擅長什麼
| 能力 | 範例 |
|---|---|
| 速度 | 幾分鐘處理數百萬份文件 |
| 規模 | 在數十億數據點中找到模式 |
| 一致性 | 不疲勞地統一應用規則 |
| 轉換 | 在語言、格式、模態之間轉換 |
| 綜合 | 結合多元來源的資訊 |
| 生成 | 按需創建文字、圖片、程式碼、音樂 |
機器做不到什麼
| 局限 | 解釋 |
|---|---|
| 理解 | 它處理符號，不是意義 |
| 體驗 | 沒有主觀意識 |
| 在乎 | 沒有真正的價值觀或偏好 |
| 判斷脈絡 | 遺漏人類直覺能駕馭的微妙之處 |
| 從無到有創造 | 總是在重組既有模式 |
| 知道自己不知道什麼 | 自信地產出錯誤 |
中文房間思想實驗
哲學家約翰·塞爾提出了一個著名的思想實驗：想像你在一間房間裡，有一本規則書教你如何回應中文字。有人塞進中文訊息，你查閱規則，塞回正確的中文回應。對外面的觀察者來說，你會說中文。但你一個字都不懂。
這可以說就是 AI 在做的事。它產出完全恰當的回應，卻不理解它們的含義。
不管你是否覺得這個論證有說服力，它捕捉了一件重要的事：表現和理解之間的鴻溝。
擬人化的危險
當 AI 說「我認為」或「我覺得」時，它在模仿人類的話語模式。它不思考也不感受。把它當成真的來對待的危險是真實的：
- 我們可能把需要真正理解的決定委託給它
- 我們可能對模擬產生情感依附
- 我們可能貶低人際連結，因為人工版本看起來更容易
- 我們可能授予它不應有的權利或道德地位
解藥： 欣賞 AI 能做到的事情，但不要把它不是的東西歸因於它。
反思
- 你是否曾發現自己把 AI 當作理解你的存在來對待？
- 如果一個有幫助的回應來自模式匹配而非理解，這重要嗎？
- 你在哪裡畫出非常好的模擬和真實之間的界線？
下一章 → 第四章：共生框架