Kimi K3 昨天正式登場：2.8 兆個參數、100 萬 tokens 上下文長度，每百萬個輸入 tokens 只要 $3。
大多數人只會截圖它的基準測試數據，然後從未真正把任何實際任務交給它。
本文重點：K3 在哪方面真正勝過你的技術架構、發佈首週沒人提到的陷阱，以及精確的路由設定。
做對的話，你那些最重度的長上下文任務，成本可以降到前沿模型的 1/3。
完整設定如下 👇
在深入之前， 我每天在我的 Telegram 頻道分享 AI 與 Vibe Coding 的筆記： https://t.me/zodchixquant 🧠
用白話來說，到底發生了什麼事
Moonshot AI 在 7 月 16 日正式推出了他們的新旗艦模型。根據官方發佈會，以下是快速重點：
- 模型架構： Mixture-of-Experts，總參數約 2.8 兆，但每個 token 僅啟用 896 個專家中的 16 個。他們宣稱這是全球首個開源的 3T 級模型
- 上下文長度： 100 萬 tokens，而且與某些競爭對手不同，定價在整個上下文視窗內保持不變。長提示詞也沒有額外的收費
- 輸入類型： 原生支援文字、圖片與影片。推理功能始終開啟
- 使用途徑： Kimi App（包含免費方案）、kimi.com、Kimi Code，以及模型 ID 為 kimi-k3 的 API（位址：api.moonshot.ai/v1）。它與 OpenAI 相容，所以你現有的 SDK 可以直接使用
- 開源計劃： 承諾在 7 月 27 日開源，同時會釋出技術報告與 vLLM 實作
這次推出了兩個版本：K3 Max 用於對話與 Agent 工作，K3 Swarm Max 則用於大規模並行處理。
真正重要的價格計算
- 每百萬個 tokens 輸入 $3 / 輸出 $15。 這正好是 Sonnet 5 在 8 月 31 日優惠期結束後的價格，但 K3 的模型等級顯然更高
- 快取命中時，每百萬個 tokens 只要 $0.30。 重複的上下文成本便宜 10 倍。對於那些反覆讀取同一個程式碼庫的 Agent 循環來說，這是整個價目表裡最大的隱藏槓桿
- 在 100 萬 tokens 上下文長度內價格一致。 一個 80 萬 tokens 的提示詞，收費跟 8 千 tokens 的一樣。相比之下，其他模型的長上下文收費高昂
- 發佈獎勵： 在 8 月 11 日前儲值 API 點數，可獲得 10-30% 的額外信用額度。如果你打算認真測試，請在期限內儲值
客觀比較：K3 的輸入成本比 Fable 5（$10/$50）低了 3.3 倍，並且以今天的價格就達到了 Sonnet 5 未來的定價水準，同時還擁有 100 萬 tokens 的上下文視窗與原生視覺能力。
K3 適合你的技術堆疊的哪些部分（以及不適合哪些部分）
這裡有一個細節，能建立信任而非炒作：Moonshot 自己的技術部落格承認，K3 整體上仍落後於 Claude Fable 5 和 GPT-5.6 Sol。 他們在自家測試套件上聲稱取得了前沿水準的結果（Terminal Bench 2.1：88.3，SWE Marathon：42.0，均為自行報告），但他們並沒有假裝自己是新的霸主。
這種誠實的態度，為你提供了一個清晰的路由規則：
1## 模型路由規則（CLAUDE.md / 團隊文件）23- 長上下文閱讀、全倉庫分析、文件綜合 → Kimi K34 （100 萬上下文視窗，固定費率，快取命中時 $0.30）5- 前端與 UI 密集的程式碼任務 → Kimi K3，之後再進行視覺驗證6- 重複上下文的 Agent 循環 → Kimi K3（利用快取命中）7- 最困難的多步驟推理、安全敏感的工作 → 繼續使用8 Fable 5 / Opus 4.89- 快速編輯與日常任務 → Sonnet 5（在 8 月 31 日前更便宜）
模式很明確：K3 是一台「吞吐量機器」，而非「最高智慧機器」。根據 token 的權重來路由，而不是根據聲望。
發佈首週的陷阱
以下四點是那些吹捧文不會提到的，全都來自官方文件和 Moonshot 自己的部落格：
- reasoning_effort 參數在發佈時僅支援「最大」模式。 低和高模式會在「後續更新」中提供。在此之前，每個請求都會以 $15/M 的價格消耗完整的推理輸出，所以短任務的成本其實很可觀。這是另一個應該把快速編輯任務留在其他地方的原因
- 目前所有基準測試都是自行報告的。 獨立評測今天才剛開始出現。在第三方確認之前，請將每個圖表視為一種聲明，而非事實
- 保留推理歷史模式。 K3 的訓練期望其推理歷史能跨輪次保留在上下文中。如果你在資料處理流程中移除了它，模型品質可能會下降。在投入生產環境前，請先檢查你的框架如何處理
- 權重尚未上傳到 Hugging Face。 7 月 27 日是一個承諾，而不是一個下載連結。而且，現實地說，對於任何沒有大量加速器的人來說，自行託管一個 2.8T 參數的模型並不是一個節省成本的選項
入門設定（複製這段程式碼）
將任何與 OpenAI 相容的客戶端指向它即可：
1from openai import OpenAI23client = OpenAI(4 api_key=MOONSHOT_API_KEY,5 base_url="https://api.moonshot.ai/v1",6)78response = client.chat.completions.create(9 model="kimi-k3",10 messages=[11 {"role": "system", "content": STABLE_PROJECT_CONTEXT},12 {"role": "user", "content": task},13 ],14)
那個能將你的帳單降低 10 倍的快取命中技巧：把你的大型穩定上下文（程式碼庫轉儲、專案文件）放在所有請求中完全相同的「前綴」裡。相同的前綴會命中快取，並以 $0.30/M 計費，而不是 $3/M。
重組你的提示詞，讓穩定的部分放在最前面且永不改變，而變動的任務放在最後。
常見錯誤
- 用聊天問題來測試它。 一個 2.8T 的 MoE 模型搭配 100 萬上下文，用來測試「幫我寫個函數」這種問題是大材小用。要餵它整個倉庫或研究文獻，這才是它被設計來處理的工作類型
- 忽略快取定價。 天真的提示詞每次都要付 $3/M。結構化的前綴則只需為重複內容支付 $0.30。同樣的模型，在 Agent 工作負載上成本相差 10 倍
- 把基準測試數字當成事實。 這些是自行報告的，而且供應商自己也說了它落後於 Fable 5。從發佈貼文裡重複「擊敗 Opus」這種話，只會讓你最後被社群備註打臉
- 一夜之間轉移所有流量。 先路由一個工作負載類別，長上下文閱讀是顯而易見的選擇，比較一週的品質，然後再擴展
- 忘記了「推理努力值」的陷阱。 僅支援最大模式意味著 K3 會以全輸出價格來過度思考瑣碎任務。它是一台重型機器，請把它留在重型工作上
15 分鐘行動計畫
- 獲取一個 API 金鑰，並在獎勵視窗內儲值（3 分鐘）
- 將上述 OpenAI 相容的設定整合到你的系統中（4 分鐘）
- 為了一個重負載提示詞實現快取命中：穩定的前綴在前，任務在後（4 分鐘）
- 在你最大的長上下文任務上，同時用 K3 和你當前的模型運行一次（3 分鐘）
- 比較輸出結果和成本，如果 K3 值得，就加入路由規則（1 分鐘）
新的旗艦模型、誠實的供應商、激進的定價。現在正是弄清楚它在你技術堆疊中扮演什麼角色的最佳時機——趁其他人還在爭論基準測試圖表的時候。
感謝閱讀！
