1. SkillOpt
微软研究院将一份简洁的自然语言技能文档视为冻结 Agent 的可训练状态，然后通过展开、反思和有边界编辑（由保留验证门控）来学习该文档。其论点很直接：大多数工程师手动编写 Agent 技能文档并希望它们能泛化，而实际上文档本身应该像参数一样被优化。SkillOpt 将 SKILL.md 文件重新定义为模型的外部参数，而模型权重从不改变。
- 技能文档作为可训练参数： 一个优化器模型提出由验证门控的编辑，对技能文件进行添加、删除或替换指令。文本学习率控制每轮重写文档的激进程度，批量和动量以文本空间而非梯度空间的形式报告。
- 验证门控取代空想： 每次编辑在保留之前必须通过一个保留检查。这使技能创作变成了一个可测量的优化循环，具有真实目标，而非靠直觉调整提示。
- 52 胜 0 负： SkillOpt 在 6 个基准测试和 7 个目标模型上击败了 Trace2Skill、TextGrad、GEPA、EvoSkill、人类编写的技能和一次性技能。在直接聊天中，它在 GPT-5.5 上大约提升 +23.5 分，在 Codex 循环中提升 +24.8 分，在 Claude Code 中从无技能基线提升 +19.1 分。
- 为什么重要： 如果技能文档是你优化的对象，那么瓶颈就从基础模型能力转移到了你能否在冻结的 Agent 周围训练自然语言状态。这是一个廉价且与模型无关的杠杆，大多数团队都未充分利用。
2. 将 Agent 工作流编译为权重
本文表明，完整的 Agent 工作流可以蒸馏到一个小模型的权重中，并以大约两个数量级的推理成本运行，同时保持接近前沿的任务质量。无需在 LLM 之上保留外部编排器，而是将流程编译到微调模型的权重中，产生作者所谓的“地下 Agent”（subterranean agent）。
- 整个工作流，而非仅答案： 编译后的流程包括多步 LLM 调用、工具调用、中间草稿和决策点。学生模型内化了编排逻辑，而不仅仅是模仿最终输出。
- 编排器溶解到模型中： 经典 Agent 框架在每个请求上都在模型之上运行一个规划器循环。将该循环编译到权重中消除了每次调用时的编排开销，而这正是大部分成本和延迟所在。
- 以低 100 倍的成本实现接近前沿的质量： 在评估的任务中，蒸馏后的小模型保持在原始工作流质量附近，同时将推理成本降低了约两个数量级。节省来自将多次模型调用合并为一次前向传播。
- 为什么重要： 大多数生产级 Agent 每天运行数千次编排循环，却反复为此付费。如果该循环可以一次性编译到一个廉价模型中，那么部署 Agent 系统的经济性将发生根本性变化，尤其是在高流量的狭窄工作流中。
3. AutoScientists
AutoScientists 来自哈佛大学，是一个用于长期运行的计算科学研究的去中心化 AI Agent 团队，完全摒弃了中央规划器。Agent 不是沿一条从上到下的研究轨迹推进，而是围绕有希望的假设自我组织，在投入实验计算之前相互批评提议，并记录成功和失败，这样系统就避免在证据积累数小时或数天后进行重复探索。
- 无中央规划器： Agent 解释共享的实验状态，围绕有前景的方向组建团队，并在进展停滞时重组。协调由共同状态而非顶层控制器涌现，从而维持并行搜索而非单一线程。
- 先评估再投入： 提议在分配任何实验计算之前先被批评和评分。这种门控减少了浪费的试验，并防止系统重复单个 Agent 可能重访的绝路。
- 在真实科学任务上表现出色： 在 BioML-Bench（包含 24 个生物医学 ML 任务，涵盖成像、蛋白质工程、单细胞组学和药物发现）上，AutoScientists 达到了 74.4% 的平均排行榜百分位，比最强先前的 AI Agent 提高了 +8.33%。
- 为什么重要： 大多数多 Agent 研究系统仍然通过一个成为瓶颈的规划器来引导决策。去中心化的自组织与明确的失败共享是长期科学搜索的另一种蓝图，并且在困难的生物医学基准测试上有效。
4. 语言模型需要睡眠
注意力机制随着上下文长度的增长而严重扩展，因此长期 Agent 随着上下文增长而不断支付日益高昂的成本。本文研究了一种类似睡眠的巩固机制：模型定期将最近的上下文转换为持久快速权重，然后清除其键值缓存。在睡眠阶段，它对累积的上下文执行离线循环传递，并通过学习到的局部规则更新其状态空间块中的快速权重。
- 巩固，然后清除缓存： 最近的上下文被折叠到存储在模型 SSM 块中的快速权重中，然后丢弃 KV 缓存。Agent 保留了学到的信息，而无需将完整的注意力账单带入未来的每一步。
- 计算移至睡眠，延迟保持在唤醒状态： 额外工作在巩固期间离线完成，因此唤醒时的预测保持低延迟。权衡是明确且可控的，而非隐藏在膨胀的上下文窗口中。
- 更多睡眠有助于最困难的情况： 增加睡眠时长可提高性能，最大的增益恰好出现在需要跨长历史进行最复杂推理的任务上。该机制在最需要的地方买到了最大的优势，而朴素注意力在此处挣扎最甚。
- 为什么重要： 长期 Agent 是第一个感受到上下文二次成本影响的系统。受生物启发的巩固步骤为不断增长的上下文窗口提供了一种有原则的替代方案，并且它清晰地映射到已经用于效率的状态空间架构上。
5. 调整接口，而非模型
当冻结的 LLM Agent 在确定性、规则驱动的环境中反复失败时，你是否必须重新训练模型？Life-Harness 认为不必。许多失败源于模型与环境接口的不匹配，而非模型推理本身，因此修复应属于运行时框架。Life-Harness 是一个生命周期感知的运行时框架，可在不触及模型权重或评估环境的情况下改进冻结的 Agent。
- 失败变为可复用的干预： 反复出现的错误转化为四个领域的运行时修复：动作实现、环境契约、轨迹调节和过程技能。每个修复都是一个运行时补丁，Agent 在后续尝试中复用。
- 模型冻结，环境不变： 模型或基准测试没有任何改变。只有它们之间的接口适应变化，这使得该方法可以即插即用于任何骨干模型，并避免了微调的成本和风险。
- 广泛且一致的收益： 在 7 个确定性 Agent 基准测试和 18 个模型骨干上，Life-Harness 改进了 126 个模型-环境设置中的 116 个，平均相对改进率为 88.5%。该效果在所有模型规模上均成立，而不仅仅帮助弱模型。
- 为什么重要： 这进一步证明了“代码即运行时”的论点：很大一部分 Agent 失败是接口问题，运行时工程可以在不重训练的情况下修复。对于构建者而言，杠杆在运行时，而非模型。
6. 效率前沿
上下文成本主导着生产级 LLM 账单，而正确的策略取决于预处理被复用的频率。本文将上下文策略选择建模为一个部署感知的优化问题，联合考虑任务性能、Token 成本和复用率，然后使用它来比较基于检索和基于预处理的方法在现实约束下的表现。
- 复用感知的成本模型： 一个参数化的对数效用指标捕捉了更多上下文的递减收益，同时摊销了预处理成本。通过改变复用参数，该框架可以在同等条件下比较不同部署模式下的策略。
- 不同的运行区间： 分析揭示了检索策略和预处理策略之间的清晰过渡边界。哪种策略占优取决于你对预处理上下文复用了多少次，因此单一默认策略很少是最优的。
- 真实的 Token 节省： 在 5000 个 HotpotQA 实例上，部署感知优化在同等性能下将有效 Token 使用量降低了约 25%，而摊销内存压缩相对于全上下文实现了超过 50% 的 Token 成本降低。
- 为什么重要： 大多数团队选择一种上下文策略并每次请求都为其付费。将上下文管理作为显式的成本-性能优化，可以把猜测变为可测量的决策，在常见工作负载上实现两位数的节省。
7. 用 AI 预测科学进展
前沿模型能预测科学走向何方吗？这项工作引入了 CUSP，一个基于 4,760 个跨多个学科的真实科学事件构建的截止条件基准，每个事件都对照一个经过验证的知识截止点。对于每个事件，模型在四个任务上接受测试：可行性评估、机制推理、生成式解决方案设计和时间预测。结论发人深省：模型能识别可能的路径，但无法预测结果。
- 识别并非远见： 模型在从竞争候选方案中选择时能识别可行的研究方向，但它们无法可靠地预测一项进展是否真正实现，并且系统性地错误估计其发生时间。
- 领域依赖，时间最困难： 性能在不同领域之间高度异质，AI 进展的时间预测比生物学、化学和物理学领域的进展更具可预测性。时间预测是所有任务中最薄弱的技能。
- 并非仅仅是训练截止的人为产物： 性能对事件落在模型训练截止之前还是之后基本不敏感。额外的截止前知识有帮助，但无法弥合与完全信息环境之间的差距，而且这一差距在高引用进展中进一步扩大。
- 为什么重要： 模型还表现出系统性的过度自信和强烈的回答偏差，这意味着不确定性估计不可靠。随着实验室依赖 AI 来筛选研究投入，CUSP 提供了一种受控方式来衡量它在哪些方面有帮助（发现方向）以及在哪些方面失败（预测结果）。
8. 你的 Agent 也会老化
AgingBench 是一个用于 Agent 生命周期可靠性的纵向基准，基于一个观察：长期运行的 Agent 仍然像刚初始化的模型一样被评估。它将 Agent 退化组织为四种机制：压缩老化（写入时的摘要丢弃了未来相关的细节）、干扰老化（累积的相似记忆排挤了目标事实）、修订老化（变更或衍生状态未正确更新）以及由常规生命周期事件引起的维护老化。通过使用临时依赖 DAG 来编码跨会话结构，它产生了在操作生命周期内不断变化的衰老曲线，而非单日评分，并指出了修复应瞄准的位置。
9. 运行时框架并非普遍更优
本文通过推理时轨迹对齐的视角研究 LLM Agent 运行时框架，将其分离为两种机制：任务分解（将任务结构化为子目标）和指导执行（在执行过程中重塑局部动作分布）。关键发现是，更精细的运行时框架并非普遍更好。增加分解或指导可以改善执行，但也会降低最终任务成功率，产生具体的失败模式，如过度分解、过度剪枝和幻觉执行。引人注目的是，仅指定初始步骤而将剩余部分留给 Agent 的部分运行时框架，可以达到比完全结构化工作流更高的通过率。
10. Epicure
Epicure 从头训练了一系列多语言食材嵌入，基于从 11 个来源（涵盖七种语言）聚合的 414 万条食谱，通过 LLM 增强的流水线将原始食材字符串标准化为 1,790 个规范条目。它提供了三种 Skip-gram（Metapath2Vec）变体，它们共享架构但走图方式不同：仅食谱共现、仅来自 FlavorDB 的化学化合物结构，或两者的混合，将每个模型置于化学与食谱上下文光谱上的不同点。结果是一个紧凑、可下载的食物涌现几何地图，清晰地提醒人们表示学习可以很好地泛化到文本之外，进入令人惊讶的日常领域。
https://x.com/omarsar0/status/2058936160291004483
https://x.com/dair_ai/status/2057846601843146760
https://x.com/dair_ai/status/2060028833080987668
https://x.com/dair_ai/status/2059333792775745619
https://x.com/omarsar0/status/2058208914148389083
https://x.com/dair_ai/status/2058948732658626789
https://x.com/dair_ai/status/2058215140789797204
