每個人都用 AI，卻幾乎沒有人真正理解它的運作原理。大家隨口說著 transformer、嵌入、RAG、Agent、RLHF 這些詞，好像每個人都懂一樣。但其實大部分人都不是真的懂。老實說，一旦你理解了 AI 的思維模型，它並沒有那麼複雜。ChatGPT、Claude、Midjourney、Cursor、程式碼 Agent——只要你搞懂下面這 20 個概念，這些工具就全都說得通了。你不需要博士學位。完全沒有術語。只有簡單的解釋和視覺輔助資源。儲存這篇，你一定會再用到。
第一部分：AI 真正的運作方式（一切建構的基礎）
1. 神經網路
每個 AI 模型的大腦。
神經網路是一連串的層。
→ 資料從輸入層進入 → 經過隱藏層 → 從輸出層產生預測。
每一條連線都有一個「權重」——一個小分數，控制一個神經元對下一個神經元的影響程度。
訓練 = 調整數十億個權重，直到結果準確為止。
一個簡單的概念。規模卻驚人。
GPT-4 有大約 1.8 兆個參數。Claude 3 Opus 則有數千億個參數。
全部來自同一個基本概念：帶有可調整連線的多層神經元。
2. 分詞（Tokenization）
AI 在讀取你的文字之前，會先把它拆解成一個個片段，稱為 token。
這些 token 並不總是完整的單詞。
「playing」→「play」+「ing」
「ChatGPT」→「Chat」+「G」+「PT」
「dog」→「dog」（保持完整）
為什麼不直接用完整的單詞？
語言是混亂的。有新詞、錯字、混合語言。固定的單詞詞彙表會大到無法想像。
Token 是可重複使用的積木。
即使模型從未見過某個詞，它也可以透過拆解成熟悉的片段來理解。
粗略估算：1 個 token ≈ 0.75 個單詞。
1000 個 token ≈ 750 個單詞。
3. 嵌入（Embeddings）
文字被分詞之後，每個 token 會被轉換成一個數字。
這個數字就是嵌入——一個代表意義的向量。
把它想成單詞的 Google 地圖。
→ 「醫生」和「護士」彼此距離很近
→ 「醫生」和「披薩」彼此距離很遠
→ 「國王」減去「男人」加上「女人」≈「女王」
模型不像你那樣理解詞語。
它理解的是距離和方向。
這就是以下功能的基礎：
→ 語意搜尋
→ 推薦系統
→ RAG 系統
所有「理解意圖」的東西底層都在使用嵌入。
4. 注意力（Attention）
「Apple」這個詞有不同的意思：
→ 「我吃了一個 Apple」→ 水果
→ 「我買了 Apple 股票」→ 公司
單靠嵌入無法解決這個問題。
注意力可以。
注意力讓每個詞都能審視句子中的其他所有詞，並決定哪些是重要的。
在「她買了 Apple 股票」這句話中：
→ 「Apple」會密切關注「股票」和「買了」
→ 模型得出結論：公司，不是水果
在注意力機制出現之前，模型只能從左到右閱讀。既慢又有限制。
有了注意力之後，模型可以一次看到整個句子。
這個單一概念解鎖了現代 AI。
5. Transformer
這是驅動現今幾乎所有 AI 模型的架構。
2017 年在一篇名為〈Attention Is All You Need〉的研究論文中提出。
突破點在於：它不再逐字閱讀文字，而是利用注意力機制平行處理所有內容。
運作方式：
→ 文字 → Token → 嵌入 → 多層注意力層堆疊 → 結果
每一層都會 refine 理解：
→ 早期層：文法、基本結構
→ 中間層：詞與詞之間的關係
→ 深層：複雜推理
結果：訓練速度大幅提升，效果也更好。
GPT、Claude、Gemini、Llama、Mistral。
它們全都是 Transformer。
如果你理解了這一個架構，你就理解了現代 AI。
第二部分：LLM 的運作方式（你跟 AI 聊天時實際發生了什麼）
6. LLM（大型語言模型）
LLM 是一個在大量文字上訓練出來的 Transformer。
書籍、網站、程式碼、維基百科、Reddit。
數兆個 token。
這個訓練任務聽起來簡單到難以置信地強大：
→ 預測下一個 token。
就這樣。
但是，當你對數兆個例子重複這種訓練時，就會發生非凡的事情。
模型學會了文法。然後是推理。接著學會了寫程式碼、翻譯語言、解決數學問題。
沒有人命令它做這些事。
這一切都是從大規模的「預測下一個 token」中湧現出來的。
「大型」代表數千億個參數。訓練成本高達數百萬美元。
ChatGPT、Claude、Gemini——它們全都是 LLM。
7. 上下文視窗
每個 AI 模型都有記憶上限。
這稱為上下文視窗。
這是模型一次可以「看到」的最大 token 數量：你的提示、它的回應，以及對話歷史。
早期的 GPT：約 4,000 個 token。GPT-4：128,000 個 token。Claude 3.5：200,000 個 token。Gemini 1.5 Pro：1,000,000 個 token。
更大的視窗 = 更多上下文 = 更好的答案。
但有一個缺點。
模型不會平均地閱讀所有內容。
它們會專注於上下文的開頭和結尾。
中間的部分？常常被忽略。
這稱為「中間迷失」問題。
大的上下文視窗 ≠ 完美的記憶。
理解這一點，就能解釋為什麼 AI 有時會「忘記」你明明提過的事情。
8. 溫度（Temperature）
當 AI 產生文字時，它並不會每次都選擇機率最高的下一個詞。
它有一個調節器，叫做溫度。
→ 溫度 = 0：總是選擇最安全、最可預測的詞
→ 溫度 = 1：選擇更具創造力、更多樣化的詞
→ 溫度 = 2+：變得極端，有時語無倫次
低溫度 → 用於：程式碼、資料、摘要
高溫度 → 用於：腦力激盪、創意寫作、變化
大多數工具會自動幫你設定。
但理解這一點，就能解釋為什麼 AI 有時感覺「很無聊」，有時又會讓你驚喜。
9. 幻覺（Hallucination）
AI 會帶著自信說謊。
不是故意的。它基本上是身不由己。
原因是這樣的。
LLM 不是在尋找真相。
它只是在預測下一個最有可能的 token。
如果一個錯誤的陳述看起來像是基於訓練模式「接下來應該出現」的東西，它就會產生出來。
沒有事實查核。沒有資料庫查詢。純粹的模式匹配。
所以它會：
→ 引用一篇不存在的研究論文
→ 發明一個從未被創造的 API 函數
→ 帶著十足自信陳述一個假的歷史「事實」
這就叫做幻覺。
解決方法：對於事實性資料，絕對不要只靠 AI 的輸出而不驗證。
使用 RAG（概念 16）來將它建立在真實資料的基礎上。
10. 提示工程（Prompt Engineering）
你提問的方式會改變一切。
同一個模型。同一個問題。根據你如何表述，結果可能天差地別。
糟糕的提示：→「解釋 API」→ 得到：模糊、表面的答案
好的提示：→「解釋 REST API 如何處理認證。給我一個真實的程式碼範例。假設我是初級開發人員。」→ 得到：具體、有結構、立即可用
提示工程只是清晰的溝通而已。
真正有效的技巧：→ 提供背景資訊（「我正在為 X 建立 SaaS」）→ 指定一個角色（「扮演資深後端工程師」）→ 展示範例（「這是我喜歡的格式：___」）→ 對輸出格式具體說明（「給我 5 個選項，用數字列表呈現」）→ 把複雜要求拆解成步驟
提示工程不是什麼 hack。
它是你跟模型溝通的主要方式。
第三部分：AI 模型如何改進（原始模型如何變成有用的產品）
11. 遷移學習（Transfer Learning）
從頭訓練成本很高。
需要驚人的資料量、大量的運算資源，以及數週的訓練時間。
遷移學習解決了這個問題。
你拿一個已經在大型通用任務上訓練好的模型，然後針對特定用途進行調整。
你不是從零開始。你是在已有的基礎上建構。
可以這樣想：
→ 你已經會騎腳踏車
→ 學騎摩托車會快很多，因為有這個基礎
→ 你遷移了已經學會的技能
這幾乎是所有 AI 產品現今的運作方式：
→ OpenAI 訓練一個大型基礎模型
→ 公司針對自己的特定用途進行微調
→ 節省數百萬美元的運算成本和數月的訓練時間
已經沒有公司從頭訓練了。
12. 微調（Fine-Tuning）
遷移學習解釋了概念。
微調則是執行的方式。
你拿一個預先訓練好的模型，然後在一個較小、特定的資料集上繼續訓練它。
這個模型已經精通「語言」了。
現在你要教它你的特定領域。
範例：
→ 在臨床筆記上微調的醫療模型
→ 在合約上微調的法律模型
→ 在 GitHub 上微調的程式碼模型
結果：一個能完美回應你使用場景的模型。
代價：你需要更新數十億個參數。
這需要大量的運算資源：多個 GPU 和強大的基礎設施。
（這也就是為什麼下一個概念 LoRA 如此重要。）
13. RLHF（基於人類回饋的強化學習）
微調讓模型變得專精。
RLHF 則讓它們感覺起來樂於助人且安全。
沒有它：模型只是預測文字。流暢，但沒有對齊。
有了它：模型學會了人類真正偏好的是什麼。
運作方式：
→ 一個提示被展示給模型 → 模型產生多個回應 → 人類對這些回應進行排序 → 模型學會偏好人類偏好的回應
這個過程重複數千次。
模型建立起對「好答案」的感覺：
→ 清晰
→ 有幫助
→ 誠實
→ 安全
這就是為什麼 ChatGPT 和 Claude 感覺像助理，而不是隨機的文字產生器。
沒有 RLHF，它們仍然令人印象深刻。但會更沒用、更不可靠，也更難控制。
14. LoRA（低秩適應）
微調很強大，但也很昂貴。
更新數十億個參數需要多個 GPU 和強大的基礎設施。
LoRA 解決了這個問題。
它不改變整個模型，而是：
→ 保持原始模型凍結
→ 在上面添加微小的可訓練層
→ 這些層的大小只是完整模型的極小一部分
關鍵在於：微調中大部分的改變都很小。
你不需要改寫整個模型。
你只需要特定的微調。
結果：
→ 在單一消費級 GPU 上進行微調：變成可行
→ 儲存一個基礎模型並切換不同的 LoRA 適配器：變得實際
→ 無需大量儲存空間就能擁有多個專精模型：得以實現
LoRA 是開放原始碼 AI 爆發的原因。
突然之間，任何人都可以在筆電上微調強大的模型了。
15. 量化（Quantization）
模型越來越大。
執行它們需要大量的記憶體和運算資源。
量化讓它們變得更小、執行成本更低。
做法：降低每個權重的精確度。
一個以完整精確度儲存的權重使用 32 位元。
量化到 4 位元 → 大小變成 1/8。
令人難以置信的是：品質損失往往小到出乎意料。
這就是為什麼你現在可以：
→ 在 MacBook 上執行 LLaMA
→ 在消費級 GPU 上本地端執行 Mistral
→ 在手機上使用強大的模型
沒有量化，大型模型就只能被鎖在資料中心裡。
有了量化，它們可以在你的機器上運行。
第四部分：真實的 AI 系統是如何建構的（你實際使用的產品背後是什麼）
16. RAG（檢索增強生成）
LLM 之所以會產生幻覺，是因為它們憑記憶回答。
RAG 透過讓它們先查閱資訊來解決這個問題。
運作方式：
使用者提出問題
系統在知識庫中搜尋相關文件
這些文件被提供給模型作為上下文
模型使用真實資訊（而非猜測）來回答
可以這樣想：
→ 閉卷考試（沒有 RAG）：憑記憶回答，常常答錯
→ 開卷考試（有 RAG）：查閱資料來源，精確度大幅提升
為什麼強大：
→ 當你的資料變化時，不需要重新訓練，只要更新文件即可
→ 模型永遠使用當前、準確的資訊
→ 大幅減少幻覺
每個嚴肅的 AI 產品都使用 RAG。
客服機器人、法律工具、醫療助理、內部知識庫。
17. 向量資料庫
RAG 需要快速找到正確的文件。
但是要如何根據意義（而不只是關鍵字）來搜尋數百萬份文件？
答案就是向量資料庫。
運作方式：
每份文件被轉換成一個嵌入（一個數字向量）。
這些向量被儲存在資料庫中。
當使用者提出問題時，問題也被轉換成一個向量。
資料庫找出最接近問題向量的向量。
它回傳語意上最相似的文件。
為什麼這比關鍵字搜尋更好：
→ 「心臟病治療」能找到關於「心臟護理方案」的文件
→ 即使確切詞彙不匹配，意義也會匹配。
常用工具：Pinecone、Qdrant、Weaviate、pgvector。
向量資料庫讓 AI 系統能夠「理解」而不只是匹配文字字串。
18. AI Agent
LLM 回答提示。
AI Agent 則是真的做些事情。
區別在於：
→ LLM：你問，它答，結束
→ Agent：你給它一個目標，它規劃、採取行動、檢查結果、調整、重複
Agent 循環：
思考 → 行動 → 觀察 → 重複
範例：一個修復 bug 的程式碼 Agent
→ 閱讀問題描述
→ 探索原始碼
→ 找出缺陷
→ 寫出修復程式碼
→ 執行測試
→ 觀察哪些測試失敗了
→ 調整修復方式
→ 重複直到完成
模型是腦袋。工具是雙手。
Agent 可以使用哪些工具？
→ 網頁搜尋
→ 程式碼執行
→ 檔案系統
→ API
→ 電子郵件 / 行事曆
→ 資料庫
Agent 將 AI 從單純的聊天機器人變成了一個同事。
19. 思維鏈（Chain of Thought, CoT）
有時候 AI 給出錯誤答案，不是因為它笨。
而是因為它太快跳到結論。
思維鏈 (Chain of Thought) 解決了這個問題。
不是直接要求最終答案：
→ 「解題：如果火車以時速 60 英里行駛 2.5 小時，它走了多遠？」
你指示它逐步思考：
→ 「逐步解題：速度 = 60 mph。時間 = 2.5 小時。距離 = 速度 × 時間 = ?」
模型一步步走過推理過程：
→ 步驟 1：找出公式
→ 步驟 2：代入數字
→ 步驟 3：計算
這種方法對於數學、邏輯和多步驟問題要可靠得多。
關鍵在於：給模型思考的空間，而不是直接反應。
這就是為什麼像「逐步思考」或「仔細推理」這樣的提示確實有效。
20. 擴散模型（Diffusion Models）
目前為止我們都在講文字。
擴散模型解釋了 AI 如何產生圖像。
這個過程有點反直覺。
模型不是學習畫畫。
它學習的是破壞圖像。
訓練過程：
→ 從一張真實圖像開始
→ 逐步加入雜訊，直到變成純粹的靜態
→ 訓練模型逆向這個過程，逐步去除雜訊
生成過程：
→ 從純粹的雜訊開始
→ 模型逐步去除雜訊
→ 由你的文字提示引導
→ 圖像從隨機中浮現出來
這個名稱來自物理學：粒子在介質中隨機擴散，就像墨水在水中擴散一樣。
在這裡，模型學會了逆向這個擴散過程。
現在它已經不限於圖像了：
→ 影片（Sora、Runway）
→ 音訊
→ 3D 內容
→ 藥物分子
擴散模型就是 AI 產生任何視覺內容的方式。
以上就是 20 個概念。讓我總結一下：
AI 如何運作：
→ 1. 神經網路：分層模式學習
→ 2. 分詞：將文字拆解成片段
→ 3. 嵌入：將意義轉換為數字
→ 4. 注意力：上下文改變意義
→ 5. Transformer：一切背後的架構
LLM 如何運作：
→ 6. LLM：大規模預測下一個 token
→ 7. 上下文視窗：記憶限制與中間問題
→ 8. 溫度：創造力調節器
→ 9. 幻覺：充滿自信但錯誤
→ 10. 提示工程：你如何溝通
模型如何改進：
→ 11. 遷移學習：建立在現有基礎上
→ 12. 微調：讓模型專精
→ 13. RLHF：教它變得有幫助
→ 14. LoRA：低成本微調
→ 15. 量化：在小機器上執行大模型
真實系統如何建構：
→ 16. RAG：先搜尋，再回答
→ 17. 向量資料庫：依意義搜尋
→ 18. AI Agent：從回答到執行
→ 19. 思維鏈：給它思考的空間
→ 20. 擴散模型：從雜訊到圖像
現在你了解 AI 實際上是如何運作的了。
大多數每天使用 AI 的人並不知道這些。
這個差距就是你的優勢。
如果這篇文章對你有幫助：
→ 轉發分享給你的社群
→ 追蹤 @chesny 以獲得更多類似解析
→ 儲存這篇以便日後參考
我撰寫關於 AI、產品建立，以及在你睡覺時也能運作的系統。
