Evals:定義 AI 下一個時代的戰略性 IP

@GarrettLord
英語4 週前 · 2026年6月21日
383K
586
58
35
1.8K

TL;DR

本文概述了嚴謹的評估套件(evals)如何作為戰略性 IP,協助企業衡量 AI 效能、確保安全性並優化成本。

在過去幾個月裡,我們與數百位高階主管進行了交談,並聽到一個明確的共同心聲:「AI 還沒有帶來投資回報率,但我們已經全面投入,所以必須想辦法解決。」

高階主管們都知道,這條路已經沒有回頭路。然而,在大多數大型企業中,他們的 AI 專案卻卡在試行階段,原因包括:輸出品質不穩定、無法達到承擔實際工作所需的信心水準、對安全風險的不確定性,以及 Token 成本飆升。換句話說,有多少企業領導人能真正量化他們的 AI 專案有多準確?

所有人都得出同樣的結論:如果你想要能夠實際執行工作的生產級 Agent,一切都從評估開始。

Satya 是最後一位將評估視為策略性智慧財產權的領導者。他強而有力地闡述了這個觀點:「企業需要將其工作流程、領域知識和累積的判斷力,轉化為能隨著每次使用而進步的 AI 系統。私有評估應該要能捕捉模型是否在對企業重要的成果上(而不僅僅是外部基準!)真正有所進步。」(https://x.com/satyanadella/status/2066182223213293753)。

那麼,什麼是評估?簡而言之,它是一個全面且嚴謹的框架,用於系統性地衡量和改進 AI 系統。我們指的不是簡單的「讚」或「倒讚」,甚至不是人工審查 Agent 的輸出。一套強大的評估套件能捕捉判斷力、語氣和品味的細微差別;評估 Agent 使用工具的能力;將任務分解為具體、可評分的維度(即「評分量表」);並且通常部署在模擬或強化學習環境中,讓 Agent 可以反覆執行,並隨著時間推移訓練以提升表現。

最優秀的企業將 Agent 評估視為核心的品質、可靠性和治理層;這遠超大多數團隊目前依賴的臨時測試或上線前檢查。

在過去兩年裡,我們將 Handshake 重新定位為一家 AI 公司。如今,我們是前沿 LLM 實驗室和財富 500 強企業的領先評估供應商。我們的 Handshake AI 研究團隊正在開創關於驗證器的新研究,並與全球最大型企業的遠見領袖合作,共同塑造他們的 AI 策略。有幾個主題正變得越來越清晰。

評估必須成為一個全面方法論的基石,以驅動 AI 帶來商業影響。以下是我們觀察到的五大支柱,我將在後續文章中詳細說明:

1. 一切始於評估。AI 的表現完全由用來衡量它的評估套件所定義:你只能追蹤到你準確定義「好」的表現為止。領先的組織現在將評估建置到模擬環境中,在部署到現實世界之前,先在受控環境中改進 AI。領域專家會整理歷史數據,並刻意植入邊緣案例(例如損毀的文字、矛盾的指令)來對模型進行壓力測試。然後,模擬環境會根據客觀的評分量表(無論是精確字串比對、程式碼層級的斷言,還是 LLM 作為評判標準)對每次更新進行評分,將 AI 開發從一場猜謎遊戲轉變為可預測的工程學科。

2. 每個職能都需要獨特的 AI 策略。一個複雜的企業需要採取分層策略:根據業務單位決定哪些部分要自建、購買、優化或訓練。一家中型保險公司可能應該直接購買現成的程式碼 Agent,並支付前沿模型的 Token 費用,同時也建立專屬的 Agent,將其獨特的核保決策編碼為自主的智慧財產權資產。在客戶服務方面,針對 RAG 優化的垂直解決方案通常更合理,但它們仍然需要實際的設定、維護和持續的評估。在 Agent 的世界裡,績效管理就是評估。

3. 別忽視安全與防護。許多領導者假設他們的網路風險已經處理好了,因為他們在 SaaS 時代已經保護了雲端基礎設施和應用程式。Agentic AI 時代帶來了新的漏洞:標準的防火牆無法阻止提示注入攻擊,也無法防止專有數據洩漏到公開的訓練迴圈中。保護一家中型企業意味著部署數據清理管道,在查詢離開網路前去除識別資訊,以及部署輸入驗證層,在惡意提示到達你的模型之前將其中和。

4. 優化的模型路由是新的薪資級距。你不會支付主管級薪資來做數據輸入的工作,但大多數企業卻將簡單任務路由到昂貴的前沿模型。一個能將模型成本與任務複雜度匹配的路由層至關重要,但這只有在你有評估機制,能知道較便宜的模型是否真的能勝任時才有效。我們見過一些公司過度優化成本,卻在品質上付出了代價。在 LLM 的世界裡,一分錢一分貨;真正的紀律在於將 Token 花在真正複雜的任務上。

5. 微調重回企業的戰術手冊。在有意義的規模下,最具成本效益的策略通常不是單純的 Agent 迭代或路由,而是針對特定任務調整較小型的開放權重模型。微調不應該用來教模型新資訊(那是 RAG 的用途),但它可以標準化工作流程、溝通風格和工具呼叫方式。真正的價值來自於將產出的模型視為任何其他軟體資產:透過回歸測試和反饋迴圈來捕捉偏移。紀律和數據品質比運算預算更重要。

這種轉向「評估優先」的心態不僅僅是技術層面的管線問題。它改變了我們定義 AI 成功的方式:從「看看它會做什麼」轉變為「精確衡量它應該做什麼,並持續改進直到它做到為止」。現在就搞懂這一點的組織,將能把 AI 從一個成本中心,轉變為一個持久且能產生複利效應的資產。

我們在改進前沿模型方面的工作,讓我們得以近距離觀察這門學科。我們與企業夥伴的共同目標,是縮小「在實驗室裡有效」與「能為實際價值完成真實工作」之間的差距。

如果你正在經歷這個轉變,或試圖將你的 AI 專案規模擴大到試行階段之外,我很想聽聽你是如何定義這個挑戰的。這是我們在 2026 年要解決的最重要問題。

一鍵儲存

使用 YouMind AI 深度閱讀爆款文章

保存原文、追問細節、總結觀點,並在一個 AI 工作空間裡把爆款文章沉澱成可複用筆記。

了解 YouMind
寫給創作者

把你的 Markdown 變成乾淨的 𝕏 文章

圖片上傳、表格、程式碼區塊,往 𝕏 上手動重排太痛苦。YouMind 把整篇 Markdown 一鍵轉成乾淨、可直接發佈的 𝕏 文章草稿。

試試 Markdown 轉 𝕏

更多可拆解樣本

近期爆款文章

探索更多爆款文章