單次 session 的實際成本,從兩種角度來看
舉一個 Droid session 為例,裡面有三個任務:重設密碼系統、加入版權標頭、重構帳務服務。如果全部用 Claude Opus 這類前沿模型來跑,成本分別是 $0.84、$0.62、$1.41,合計 $2.87。
如果根據複雜度分流呢?前兩個是例行工作,所以改用高效模型後成本降到 $0.09 和 $0.12,而重構任務仍然留在前沿模型上,花費 $1.41。整個 session 總計 $1.62,輸出結果完全相同,成本卻降低了 43%,唯一改變的變數是哪個模型處理哪個任務。
大多數工程團隊只選一個模型,然後就再也不動它。不是因為這是最佳選擇,而是因為在 session 中途切換模型會損失 context、增加摩擦,沒有人想每天做 40 次這種決定。所以他們把所有工作都導向自己負擔得起的最強模型,然後就不再檢視帳單了。
這種預設做法是有代價的。昂貴的模型並不是安全的選擇,它只是很貴而已。而且例行工作的品質差距已經快速縮小,讓原先的成本計算不再站得住腳。
Factory Router 內建在他們的 Droids 平台中,會自動分流每個任務:例行工作交給高效模型,複雜工作交給前沿模型,每次切換都完整攜帶 context。上面的 session 數字來自他們的發布基準測試。Factory 本身不賣模型,因此他們沒有結構性的誘因要你留在昂貴的路徑上。這點在你閱讀這些數字時值得留意。

沒有人衡量過的問題
每個 Droid session 都在某個模型上執行,而大多數團隊選了 Opus 之後就再也沒重新考慮過。這個預設做法的成本是隱形的,因為它從來不會以錯誤的形式出現。工作完成了,輸出也不錯,只是帳單默默地比應有的水準高了一些。
上面那個單一 session 浪費了大約 $1.25。這感覺沒什麼,但一旦乘上數量就不一樣了。假設每月有 10,000 個 session,同樣的預設會讓原本 $16,400 的必要支出變成實際的 $28,700,也就是每年 $147,600 白白花在把例行工作導向前沿模型上,而這些工作根本不需要那麼強的模型。
大多數團隊會發現 30% 到 50% 的 session 是例行工作,卻跑在最貴的模型上。這個差距就是全部的機會,接下來透過三個章節的十五條規則來說明如何縮小它。

→ 規則 1:在動手之前先分類你的任務類型:
1檢視你最近 30 個 Droid 任務。把它們分成兩組:23需要前沿模型:涉及系統架構、身分驗證、金流、安全、跨服務相依性的任務,4任何出錯會浪費時間除錯或需要還原的工作。超過 100 行商業邏輯的複雜重構。56例行工作:文件更新、設定變更、為現有函式新增測試、7有明確規格的小型錯誤修正、版權標頭、README 編輯、8樣板生成、簡單遷移。910分別計算兩組的數量。1112根據 Factory 的 session 層級資料:13「重設密碼」類型任務:Opus $0.84 vs 分流後 $0.09,便宜 89%。14「新增版權標頭」類型任務:Opus $0.62 vs 分流後 $0.12,便宜 81%。1516用例行任務數量乘以這個差距。17這個數字就是你目前因模型選擇而多付的稅金。
→ 規則 2:衡量實際支出,而不是假設:
1拉出你上個月的 Droid session 日誌。23每個 session 需記錄:4- 任務類型(根據規則 1 的分類)5- 使用的模型6- 成本78計算:9- 使用前沿模型的例行任務總支出10- 這些任務改用高效模型後的成本(套用 80-90% 的降幅)11- 透過分流可獲得的每月節省金額1213這是在啟用 Factory Router 之前的基準線。14大多數團隊會發現 30-50% 的 session 是例行工作,卻跑在前沿模型上。
→ 規則 3:撰寫能反映複雜度的任務描述:
1任務的描述方式會向分流系統傳達它的複雜度。23低複雜度訊號(導向高效模型):4- 「簡單的設定更新,不涉及商業邏輯:把 config.yaml 中的 timeout 從 30 改為 60」5- 「為 /helpers 中的工具函式補上遺漏的 JSDoc 註解」6- 「更新 README 以反映新的部署步驟」78高複雜度訊號(導向前沿模型):9- 「重構身分驗證中介軟體,以支援跨越 3 個服務的新 SSO 整合」10- 「除錯金流處理器中的競爭條件,該問題只在併發負載下出現」11- 「重新設計頻率限制系統,以支援每個租戶的門檻」1213具體且富含脈絡的任務描述能提升分流準確度。14模糊的描述會被保守地導向前沿模型。
→ 規則 4:計算你的年度分流通報酬率 (ROI):
1估算 Factory Router 節省金額的公式:23每月 session 數:[N]4未分流時平均每個 session 成本:[Opus 基準價格,以美元計]5例行任務佔比:[根據規則 1 稽核得出的百分比]6例行任務成本降幅:80-90%78每月節省金額估算:9N × 基準成本 × 例行佔比 × 0.85 = 每月回收金額1011年度:乘以 12。1213舉例:一個團隊每月執行 5,000 個 session,平均成本 $2.87,例行任務佔 40%:145,000 × $2.87 × 0.40 × 0.85 = 每月 $4,879 = 每年 $58,5481516這是下限。Missions(長時間自主執行的工作)還會進一步放大節省效果。
→ 規則 5:記錄你的程式碼庫中哪些工作只能用前沿模型:
1在啟用分流之前,先定義在你的程式碼庫中哪些工作必須留在前沿模型上。23寫下這段內容,然後貼上作為你的分流指導基準:45「以下工作永遠需要前沿模型:6- 任何更動到 [身分驗證 / 金流 / 安全層] 的內容7- 涉及超過 [N] 個檔案的跨服務重構8- 對 CI/CD 管線設定的變更9- 資料庫綱要遷移10- 任何在我們的問題追蹤器中標記為 [P0 / 重大] 的項目1112其他所有工作都可分流到高效模型。」1314這份文件將成為你的分流政策文件。15隨著你了解自己的程式碼庫中哪些需要前沿模型處理,再持續更新它。
10 人開發團隊,每月 1,000 個 session,例行任務佔 40%:每年回收 $13,776 50 人開發團隊,每月 5,000 個 session,例行任務佔 40%:每年回收 $58,548 大型企業(Nvidia、Adobe 規模):每年節省六位數金額
要避免的錯誤: 不要在啟用 Router 之前試圖手動分類每個任務。Router 會處理分類。你的工作是定義哪些工作必須留在前沿模型的硬性規則,然後讓系統處理其他一切。
0:28
→ 規則 6:一鍵啟用 Factory Router:
1在 Factory CLI 或桌面應用程式中:231. 開啟模型選擇器42. 選擇「Factory Router」53. 完成。67不需要任何設定即可開始。Router 會立即使用預設分流邏輯。89驗證它是否已啟用:10執行一個簡單任務(例如「更新這個檔案中的註解」)。11查看 session 日誌中的模型歸屬。12你應該會看到高效的模型處理它,而不是 Opus。1314如果你在簡單任務上看到 Opus,請確認 Router 已被選取,而不是特定模型的覆蓋設定。
→ 規則 7:為你的程式碼庫設定分流指導:
1分流指導是建議性質的。它能幫助 Router 為你的特定程式碼庫做出更好的決策,2但不會強制指定模型。34將以下內容貼上作為分流指導的起點,並根據你的技術堆疊進行編輯:56「身分驗證、金流和安全相關變更:前沿模型。7資料庫遷移和綱要變更:前沿模型。8影響外部消費者的 API 合約變更:前沿模型。910文件更新:高效模型。11為現有函式新增測試:高效模型。12設定和環境變數變更:高效模型。13樣板生成和骨架建立:高效模型。14程式碼註解和 JSDoc:高效模型。15README 和更新日誌更新:高效模型。1617其他一切:Router 根據任務脈絡自行決定。」
→ 規則 8:為企業治理設定分流指導:
1對於大規模執行 agent 的團隊,分流指導已成為治理文件。23受監管行業(銀行、醫療、企業 SaaS)的標準範本:45「高敏感度分流規則:6- 任何涉及 [PII / 金融資料 / 身分驗證] 的內容 = 僅限前沿模型7- 任何外部 API 變更 = 僅限前沿模型8- 生產部署腳本 = 僅限前沿模型9- 事故回應任務 = 僅限前沿模型1011標準分流:12- 開發、測試和暫存環境 = Router 自行決定13- 內部工具和自動化 = 偏好高效模型14- 文件、報告和溝通 = 偏好高效模型1516覆蓋政策:17任何開發者都可以為某個任務要求使用前沿模型。18Router 會將其視為強制覆蓋,而非建議。19所有前沿模型覆蓋紀錄都需記錄,供每月檢討。」2021將此內容儲存為專案根目錄下的 ROUTING_POLICY.md。22在你的 CLAUDE.md 或對應的脈絡檔案中引用它。
→ 規則 9:在啟用分流的情況下執行 Missions:
1Missions 是 Factory 的長時間自主執行任務。2可能需要數小時或數天,無需監督。34啟用 Factory Router 後,Missions 也能享受相同的分流邏輯。5Mission 中的每一步都會被適當地分流。6複雜 Mission 中的簡單步驟會跑在高效模型上。7只有當真正需要前沿模型的推理能力時,Mission 才會支付前沿模型的費率。89設定方式:10在啟動任何 Mission 之前先啟用 Factory Router。11加入能反映該 Mission 複雜度輪廓的分流指導:1213「這個 Mission 包含 [高複雜度的核心工作] 和 [例行支援任務]。14核心工作(架構決策、安全分析):前沿模型。15支援工作(文件、設定、樣板):高效模型。16對於任何不需要上述推理能力的步驟,17請使用最有效率且可用的模型。」1819長時間的 Missions 能獲得比例上更大的節省,因為它們會累積更多例行步驟。
→ 規則 10:設定供應商容錯轉移政策:
1Factory Router 會跨供應商分流以確保可靠性。2如果某個供應商路徑效能下降,session 會透過健康的供應商繼續執行。34對於有正常運作時間要求的企業團隊:56「可靠性分流政策:7- 每個模型的主要供應商:[列出你偏好的供應商]8- 容錯轉移觸發條件:任何請求失敗或延遲超過 [N] 秒9- 容錯轉移行為:同一模型,不同供應商(如果有的話)。10 如果同一模型不可用,則升級到下一個前沿模型。11- 專屬 TPM:請與 Factory 客戶團隊確認你的方案層級。12- 目標:99.9% 以上的請求可靠性。1314記錄所有容錯轉移事件。每週檢視供應商健康狀況。」
Terminal-Bench 2:以 20% 較低成本達到 99% 的 Opus 通過率 Legacy-Bench:以 25% 較低成本達到 96% 的 Opus 通過率 透過供應商分流實現 99.9% 以上的請求可靠性
3 / 3 | 系統:在能讓節省複利成長的規模下運行 Factory
成本節省的故事在個人開發者層級已經很有趣,到了團隊層級就變得顯著,而在企業規模下,它直接成為一筆預算項目。
Nvidia、Adobe、EY、Palo Alto Networks、Adyen——這些都是 Factory 的企業客戶。
一個每月執行 5,000 個 session 的團隊,在例行任務佔比 40% 的情況下,光是分流就能每年回收 $58,548。一個每月執行 50,000 個 session 的團隊,則可回收 $585,480。這個數學關係隨著數量線性成長。企業的 token 帳單可不是線性的。
更深層的觀點是關於架構。大多數 AI agent 平台是建立在單一模型的假設上:一個團隊、一個模型、一個供應商。Factory 的平台從設計上就是模型中立的:任何 LLM(Claude、GPT、Gemini、Llama、開源模型)、任何介面(CLI、桌面端、VS Code、Slack、GitHub、Linear、Jira、CI 管線)、軟體生命週期的任何階段。
Router 是這個架構中的一個層級,也就是成本控制層。同一個在終端機中運作的 Droid context,也可以在 Slack 中使用。同樣適用於個別 session 的分流政策,也適用於執行數天的 Missions。
最後五條規則將完整的 Factory 系統圍繞 Router 建立起來。

→ 規則 11:每週衡量分流節省金額:
1設定一個每週例行事項來追蹤 Router 的效能。23在 Factory session 日誌中檢查:41. 本週 session 總數52. 模型分佈(各模型佔比)63. 有分流 vs 基準線(全部用 Opus)的成本74. 任何 Router 升級到前沿模型的 session(品質訊號)89報告格式:10> session 數:[N]11> 高效模型使用率:[%]12> 前沿模型使用率:[%]13> 實際支出:$[金額]14> 基準線(全部用 Opus)應為:$[計算值]15> 本週節省金額:$[金額]16> 升級到前沿模型的次數:[N](檢討是否需要改善分流指導)1718如果升級率超過 10%,請檢討你的分流指導。19太多升級表示例行任務被描述得過於複雜。
→ 規則 12:全面部署前先進行 Agent Readiness 評估:
1在為整個團隊部署 Factory Router 之前,先執行 Factory 的 Agent Readiness 評估。23它會評估 100 多個訊號,包括:4- 程式碼庫健康度(測試覆蓋率、CI 可靠性、文件)5- 工作流程成熟度(PR 流程、程式碼審查標準、部署管線)6- 團隊準備度(對 agent 工具的熟悉程度、現有自動化)78利用評估結果來決定哪些工作流程應優先分流。910高準備度工作流程:立即部署 Router,啟用完整分流。11中等準備度工作流程:部署 Router 時使用保守的指導,保留較多任務給前沿模型。12低準備度工作流程:先建立準備度再進行分流。13在準備不足的程式碼庫上使用 agent 工具,會花更多時間在前沿模型上修正錯誤。1415Router 的節省效果在高準備度的環境中最為顯著。
→ 規則 13:有策略地建立你的模型池:
1Factory Router 從一個包含前沿和高效模型的池中選取模型。2你設定的池會影響可用的分流選項。34建議的起始模型池:56前沿層級(複雜工作):7- Claude Opus(最新版本)8- GPT-5.2(如果你的已核准供應商清單中有它)910高效層級(例行工作):11- Kimi K2.6(程式碼任務的每 F1 分最佳價值)12- MiniMax M2.7(簡單任務的最低成本)1314隨著你在自己的程式碼庫中驗證模型效能,再逐步加入更多模型。15先從雙層結構開始。16等到你有分流數據後,再擴展到三層(前沿 / 中階 / 高效)。1718記錄哪些模型已通過哪些法規要求的核准。19如果你的企業限制特定的模型供應商,請相應地設定模型池。20對於需要資料在地化要求的環境,可透過 Factory 使用美國託管的開源模型。
→ 規則 14:將分流整合到你的 CI 管線中:
1Factory 可以在 CI 管線中運作。分流同樣適用於此。23將 Factory Router 加入你的 GitHub Actions 工作流程:45對於 Pull Request 審查:6「根據檔案變更範圍分流 PR 審查任務。7- 安全和身分驗證檔案變更:前沿模型8- 測試檔案:高效模型9- 文件變更:高效模型10- 混合型 PR:如果可能,逐節分流,否則整個審查用前沿模型」1112對於自動化 QA:13「根據測試複雜度分流 QA 任務。14- 關鍵路徑端對端測試:前沿模型15- 單元測試生成:高效模型16- 回歸測試套件:高效模型」1718CI 分流能讓節省效果複利成長,因為它每次提交都會執行。19每天 100 次提交中,用 Opus 和 Kimi K2.6 進行測試生成的成本差異是顯著的。
→ 規則 15:設定每月分流政策檢討:
1分流指導應該隨著你的程式碼庫和團隊成長而演進。23每月檢討議程(30 分鐘):451. 成本報告:實際 vs 基準線,節省趨勢62. 升級分析:哪些任務升級了,為什麼73. 分流指導更新:目前的指導是否仍然反映程式碼庫的複雜度?84. 新模型評估:模型池中是否有值得加入的新模型?95. 團隊回饋:開發者是否經常覆蓋 Router 的決定?為什麼?1011以下問題表示你的分流指導需要更新:12- 升級率超過 15%:指導過於傾向高效模型13- 升級率低於 2%:指導可能過於保守,放過了節省機會14- 開發者覆蓋率超過 20%:Router 沒有達到開發者的期望1516每次檢討後更新 ROUTING_POLICY.md。
沒有 Factory Router:每個 session 都跑在前沿模型上,不論任務類型 有了 Factory Router:例行任務用高效模型,複雜任務用前沿模型 結果:成本降低 20-43%,同時維持 96-99% 的前沿模型基準測試效能
結論
最終的數學結果如下。
大多數工程團隊中,40-60% 的 Droid session 是例行任務 這些 session 在 Opus 上:每個 session 平均 $2.87 這些 session 有分流後:平均 $1.62 每月 10,000 個 session:每年回收 $147,600
基準測試數字是站得住腳的:在 Terminal-Bench 2 上以 20% 較低成本達到 99% 的 Opus 通過率,在 Legacy-Bench 上以 25% 較低成本達到 96%。提示快取在模型切換時保持完整,因此當路由器在 session 中途更換模型時,品質不會下降。供應商容錯轉移讓 session 維持 99.9% 以上的可靠性。
Factory Router 目前處於私人研究預覽階段。你只需要在模型選擇器中選取一次,無需額外設定。
我還在嘗試理解的是:建議性的分流指導在不同程式碼庫類型中的效果如何。設定「身分驗證變更 = 前沿模型,文件調整 = 例行工作」這類規則,在紙上看起來很乾淨。但當任務落在灰色地帶時會發生什麼事?這正是值得關注的邊緣案例,隨著更多團隊開始使用這項功能而值得觀察。
上面的 15 條規則是建立系統的指南。從規則 1 和規則 6 開始。
p.s. 大多數人會快速掃過的一行:Factory 不賣模型。他們不會從你的 token 帳單中獲利。正是這種結構性的差異,讓分流系統這樣的存在成為可能。我很期待看到隨著更多模型加入模型池,會發生什麼事。
在你被淹沒之前先收藏這篇文章
如果這篇文章對你有幫助,請分享給一個需要它的人






