Evals:定义 AI 下一个时代的战略性知识产权

@GarrettLord
英语4周前 · 2026年6月21日
383K
586
58
35
1.8K

TL;DR

本文概述了严谨的评估套件(evals)如何作为战略性知识产权,赋能企业衡量 AI 性能、确保安全性并优化成本。

过去几个月里,我们与数百位高管交流过,听到一个明确的声音:"AI 还没带来投资回报率,但我们都投入了,所以必须想清楚怎么做。"

高管们知道没有回头路可走。但在大多数大型企业中,AI 项目往往卡在试点阶段,原因包括:输出质量不稳定、无法达到实际工作所需的置信度、对安全风险的不确定性,以及 Token 成本激增。换句话说:有多少商业领袖能真正量化他们 AI 系统的准确率?

大家正达成共识:如果你想要能真正干活的、达到生产级的 Agent,一切从评估(evals)开始。

Satya 是最近一位把评估视为战略知识产权的高管。他雄辩而有力地阐述了观点:"企业需要将自己的工作流程、领域知识和积累的判断力转化为能够随着每次使用而改进的 AI 系统。私有评估应该捕捉模型是否在真正改善对业务重要的结果(而不仅仅是外部基准!)"https://x.com/satyanadella/status/2066182223213293753

那么什么是 evals?它是"evaluations"的缩写,是一个全面、严谨的框架,用于系统化衡量和改进 AI 系统。我们谈论的不是简单的点赞/踩,甚至不是人工审查 Agent 的输出。一套强大的评估体系能够捕捉判断力、语气和品味的细微差别;评估 Agent 使用工具的能力;将任务分解为具体、可评分的维度(即"评分标准");并且通常在模拟或强化学习环境中部署,让 Agent 可以反复运行并训练以随时间提升性能。

最优秀的企业将 Agent 评估视为核心质量、可靠性和治理层,远远超越大多数团队目前依赖的临时测试或发布前检查。

在过去两年里,我们将 Handshake 重新定位为一家 AI 公司。如今,我们是前沿大模型实验室和财富 500 强企业领先的评估提供商。我们的 Handshake AI 研究团队正在验证器方面开拓新研究,并与全球最大企业的愿景型领袖合作,塑造他们的 AI 战略。一些主题正变得清晰。

评估必须成为驱动 AI 业务影响力的综合方法的基石。以下是我们在实践中看到的五大支柱,我将在后续文章中展开:

1. 一切从评估开始。AI 的性能完全由衡量它的评估套件定义:你只能根据你对"好"的准确界定来跟踪性能。领先的组织现在将评估嵌入到模拟环境中,以便在进入真实世界部署之前,在受控环境中改进 AI。领域专家整理历史数据并植入精心设计的边缘案例(如被篡改的文本、矛盾的指令)来对模型进行压力测试。然后,模拟根据客观评分标准(无论是精确字符串匹配、代码级断言,还是 LLM 作为评判的准则)对每次更新进行评分,将 AI 开发从猜测游戏转变为可预测的工程学科。

2. 每个职能部门需要不同的 AI 策略。复杂的企业需要分层方法:按业务单元决定在哪构建、购买、优化或训练。一家中等规模的保险公司可能应该购买现成的编码 Agent 并支付前沿模型的 Token 费用,同时构建专有 Agent,将其独特的承保决策编码为自主知识产权资产。在客户服务领域,为 RAG 优化的垂直解决方案通常更合理,但它们仍然需要真正的设置、维护和持续评估。在 Agent 的世界里,性能管理就是评估。

3. 不要忽视安全性和保障性。许多领导者认为他们的网络风险已经得到处理,因为在 SaaS 时代他们保护了云基础设施和应用。但 Agent AI 时代带来了新的漏洞:标准防火墙无法阻止提示注入攻击,也无法防止专有数据泄露到公共训练循环中。保护一家中型企业意味着部署数据清洗管道,在查询离开网络前剥离标识符,以及输入验证层,在恶意提示到达模型之前将其中和。

4. 优化的模型路由是新的薪酬等级划分。你不会为数据录入支付高管级薪酬,但大多数企业却将简单任务路由到昂贵的前沿模型。一个能够将模型成本与任务复杂度匹配的路由层至关重要,但它只有在你有评估能力知道更便宜的模型是否真的能完成任务时才有效。我们看到过一些公司过度优化成本,却在质量上付出了代价。在 LLM 上,一分钱一分货;纪律是把 Token 花在真正复杂的任务上。

5. 微调重新进入企业策略手册。在可观的规模下,最具成本效益的策略往往不是 Agent 迭代或路由本身,而是针对特定任务定制较小的开源权重模型。微调不应教给模型新信息(那是 RAG 的用途),但它可以标准化工作流程、沟通风格和工具调用。真正的价值在于将结果模型视为任何其他软件资产:通过回归测试和反馈循环来捕捉偏移。纪律和数据质量比计算预算更重要。

这种向评估优先思维的转变不仅仅是技术层面的调整。它改变了我们定义 AI 成功的方式:从"看看它能做什么"到"精确测量它应该做什么,并持续改进直到它做到"。现在搞明白这一点的组织,将把 AI 从成本中心转变为持久、增值的资产。

我们改进前沿模型的工作让我们得以亲历这一学科。我们与企业合作伙伴的共同目标是缩小"在实验室里有效"和"在实际工作中创造切实价值"之间的差距。

如果你正在经历这一转变,或试图将你的 AI 项目扩展到试点阶段之外,我很想听听你是如何定义这个挑战的。这是我们在 2026 年要解决的最重要的问题。

一键保存

使用 YouMind AI 深度阅读爆款文章

保存原文、追问细节、总结观点,并在一个 AI 工作空间里把爆款文章沉淀成可复用笔记。

了解 YouMind
写给创作者

把你的 Markdown 变成干净的 𝕏 文章

图片上传、表格、代码块,往 𝕏 上手动重排太痛苦。YouMind 把整篇 Markdown 一键转成干净、可直接发布的 𝕏 文章草稿。

试试 Markdown 转 𝕏

更多可拆解样本

近期爆款文章

探索更多爆款文章