Codex 使用计算机的三种方式

@jxnlco
英语4周前 · 2026年6月16日
354K
699
74
35
1.1K

TL;DR

本指南详细介绍了 Codex 的 Computer Use、Chrome 扩展程序以及应用内浏览器的区别,帮助用户针对原生应用、需要身份验证的网页任务或本地开发选择最合适的工具。

更新:Computer Use 现已在欧盟/英国可用 ;) 尽情享受!

Codex 有三种使用计算机的方式:Computer Use、Chrome 扩展程序和应用内浏览器。

它们的功能有所重叠,容易让人混淆。

读完这篇文章后,你将知道如何安装并触发这三种方式、各自在什么场景下使用、Appshots 和开发者模式如何将它们连接起来,以及需要在 AGENTS.md 中添加什么内容,才能让 Codex 自行选择最合适的界面。

简单总结如下:

jason - inline image

话虽如此,但能使用插件或 MCP 时尽量优先选用。比如,Slack 插件可以比手动点击 Slack 更精确地检索一个线程;GitHub 插件产生的操作比操作网页更容易检查。可视化控制最适用于结构化工具无法覆盖的场景!

1. 一切皆 @Computer

Computer Use 是三种界面中范围最广的一种。它允许 Codex 在 macOS 和 Windows 上通过操作窗口、菜单、键盘输入和剪贴板来查看并操控图形界面,但仅限于你批准的应用程序。

它通常也是最慢的。结构化插件可以直接调用 API;而 Computer Use 需要先查看界面,决定点击哪里,等待应用响应,再检查下一个状态。这个视觉循环需要花费时间,但这也意味着 Codex 可以操作那些根本没有 API 可用的应用。

在 macOS 上,慢并不一定意味着干扰。Computer Use 可以在后台操作你批准的应用,而你继续使用电脑的其他部分。很多时候,我一边使用 Codex,一边打开某个应用,然后发现 Codex 已经默默地在执行某些工作流了。

根据你电脑上安装并批准的应用,它可以操作 Spotify、XCode、系统设置、iOS 模拟器,甚至可以通过 iPhone 镜像应用来控制你的 iPhone!当工作流涉及多个应用时,它还能在这些应用之间切换。

当任务依赖于以下场景时使用它:

  • 原生桌面应用,如 Spotify 或财务应用
  • iOS 模拟器、iPhone 镜像或其他纯 GUI 操作流程
  • 系统或应用设置
  • 没有插件或 API 的数据源
  • 需要在多个应用之间切换的工作流
  • 某个结构化集成中缺失的操作

安装方式:在 Codex 中打开 设置 > Computer Use,点击 安装

触发方式:提到 @Computer,或直接要求 Codex 使用 Computer Use。随着模型能力的提升,它也能在需要时自主调用。

下面试几个例子:

我最喜欢的例子之一是从一个被盗包裹开始的。亚马逊告诉我需要大约 25 分钟才能联系到客服代表。我让一个 Codex 线程使用 Computer Use,要求它每五分钟检查一次聊天,一旦客服上线就改为每分钟检查,并尽力争取退款。等我洗完澡回来,退款已经搞定了。

text
1使用 @Computer 打开 Spotify,找到我的"发现每周"播放列表并开始播放。不要更改我的账户或订阅设置。
2
3使用 @Computer 打开 iPhone 镜像,重现 iOS 应用中的入门引导 bug,并截图保存失败状态。修复最小的相关代码路径,然后再次运行同样的流程。

我还曾将 Computer Use 作为结构化工作流的最后一公里。在某个发布视频中,Codex 可以读取 Slack 反馈、修改代码并渲染新视频,但该线程可用的 Slack 集成无法上传文件。Computer Use 点击了添加文件,完成了这唯一缺失的步骤。

它也是三种界面中信任边界最广的一个。每次只给它一个明确的应用或流程。在不涉及任务时,保持敏感应用关闭;审查权限提示;在涉及财务、账户、支付、凭据、隐私和系统安全变更时,保持在场。

2. @Chrome:多标签页与身份验证

Codex Chrome 扩展程序让 Codex 能够访问你已登录的 Chrome 状态。当任务依赖于你已有的账户、cookie、浏览器配置或已认证的标签页时,使用它。

这是适合以下工具的界面:

  • Gmail 或 LinkedIn
  • Salesforce 或客服控制台
  • 内部仪表板
  • 跨多个网站的身份验证研究
  • 依赖于账户或浏览器扩展的表单

安装方式:在 Codex 中打开插件,添加 Chrome,按照设置流程操作。Codex 会引导你安装 Codex Chrome 扩展程序并批准 Chrome 的权限。当扩展程序显示 已连接 时,启动一个新线程。

触发方式:提到 @Chrome 或直接要求 Codex 使用你已登录的 Chrome 浏览器:

text
1使用 @Chrome 查看打开的客户账户,与另一个标签页中的工单进行对比,并草拟缺失的字段。在提交前停止。

Chrome 任务在标签组中运行,这有助于将同一个 Codex 线程的标签页保持在一起。与应用内浏览器不同,此界面携带你的浏览器身份。这使得它功能更强,但也更敏感。

另一个主要优势是多标签页控制。Chrome 可以将多个标签页与同一个任务关联,在一个标签页中读取上下文,与另一个标签页比较,再在第三个标签页中继续工作流。Computer Use 也可以可视地驱动浏览器,但 Chrome 将工作视为浏览器工作流,而非屏幕坐标序列。

在最近的一个线程中,我将一个已打开的 Strudel Composer 标签页交给 Codex,要求它让音乐更有趣。Chrome 提供了选中的标签页以及页面的 WebMCP 工具。Codex 检查了乐曲,重写了和声和四分钟的结构,改变了速度,保存了音轨,并让它继续播放。它不需要可视地寻找每一个控件,因为 Chrome 可以结合标签页上下文和页面暴露的结构化能力来完成。

我将其用于一个长期运行的 Twitter 线程。指示大致是:

每天使用 Chrome 检查我的私信、阅读相关新闻,并查找应该知道的反馈或提及。将任何持久性内容添加到我的 vault 中。不要发布或发送消息。

有趣的地方不在于 Codex 能打开 Twitter,而在于这个线程可以随着时间的推移回到同一个已登录的工作环境中,将发现的内容与本地文件连接起来,并给我留下可审查的结果。

信任边界很重要。网站可能会将 Codex 的点击、表单提交和消息视为你的操作。页面内容也是不受信任的输入。将关键步骤明确化:自动研究、导航和草拟;在发送、发布、购买或提交前,需要你的审核。

如果整个任务都在浏览器中完成,优先选择 Chrome 而非 Computer Use。Chrome 拥有任务所需的浏览器原生上下文,而无需开放对桌面其他部分的访问。

3. 应用内 @browser:用于你正在构建的网站

应用内浏览器是位于 Codex 线程内部的浏览器。你和 Codex 共享同一个渲染页面,因此特别适合构建和调试 Web 应用。

我通常从它开始用于:

  • 本地开发服务器
  • 基于文件的预览
  • 无需登录的公共页面
  • 重现视觉 bug
  • 检查响应式布局
  • 留下元素级别的设计反馈

重要的限制是隔离。应用内浏览器不使用你的常规浏览器配置、cookie、扩展、已登录会话或现有标签页。当任务需要账户时这是限制,但在不需要时则是一个有用的边界。

设置方式:在 Codex 中打开插件,添加 Browser 插件,并启用。

触发方式:在你的提示中提到 @Browser 或直接要求 Codex 使用应用内浏览器:

text
1使用 @Browser 打开 <http://localhost:3000/> 上的 vite 应用,重现移动端溢出 bug,修复它,然后在桌面和移动端宽度下再次验证同一路由。

这创建了一个紧密的反馈循环:Codex 可以编辑代码、操作页面、检查渲染状态、截图,并在修复后重复流程。

我最喜欢的功能是注释。当我在审查本地应用时,可以直接点击元素或选择区域并留下评论。样式控制还让我可以预览并发送更精确的关于文本、字体、间距和颜色的反馈。我通常将其与语音输入和引导结合:我审查页面、留下评论、并排队更多反馈,同时 Codex 在进行处理。页面变成了规范。

这在设计工作中尤其有用。我经常要求 Codex 将一个想法、研究资料包或项目状态变成一个单一的 index.html 文件,然后在应用内浏览器中打开。不需要在另一个提示中描述整个设计,而是直接注释实际页面:"这个层级关系反了"、"让它不那么像卡片"、"这些控件需要更多空间"、"在所有地方使用这个字重"。Codex 收到带有相关截图和元素上下文的评论,修改文件,然后再次打开同一页面进行下一轮。

创建一个单一文件 index.html 展示这个项目简报,并在应用内 @Browser 中打开。

这个循环感觉比来回传递截图和文字描述更接近与设计师在同一画布上工作。

应用内浏览器也可以作为混合工作流的起点。在另一个线程中,我在应用内浏览器中打开了一个 X 帖子,让 Codex 调查讨论内容。可见页面确定了我指的是哪条帖子;然后 Codex 切换到 Twitter CLI 并获取了 38 条回复,包括浏览器视图隐藏的嵌套回复。这就是最窄界面原则的实际运用:用浏览器获取屏幕上的上下文,然后用结构化工具进行更深入的检索。

这里有一个权衡。应用内浏览器作为良好开发界面的隔离性,也意味着它不适合处理 Google 登录、密钥或依赖于浏览器扩展的网站。当需要身份时,切换到 Chrome。

Appshots

Appshot 不是 Codex 控制计算机的第四种方式。它是一种让 Codex 指向你面前已有上下文的方式。

在 Mac 上,同时按两次 CMD+CMD 键可以捕获最近一个窗口。Codex 将一张图片和任何可用的文本附加到线程中。你可以对错误、邮件、设计、设置面板或陌生表单进行 Appshot,然后简单地说:

这是我发现最容易记住的心智模型:

Appshots 是你指向电脑上某物的方式。Browser、Chrome 和 Computer Use 是 Codex 采取行动的方式。

Appshot 目前是在 macOS 上的 Codex 应用中创建的。它们捕获最前面的窗口,而非整个桌面,这使得它们在提供集中上下文的同时,无需授权控制该应用。

如何跟进工作进展

这些界面发展很快。如果你想获取有用的细节,而不是等待大型发布总结:

二次创作

使用 YouMind 创作爆款文章

收集素材、拆解爆点、生成视觉资产、撰写内容,并在一个 AI 工作空间里完成分发。

了解 YouMind
写给创作者

把你的 Markdown 变成干净的 𝕏 文章

图片上传、表格、代码块,往 𝕏 上手动重排太痛苦。YouMind 把整篇 Markdown 一键转成干净、可直接发布的 𝕏 文章草稿。

试试 Markdown 转 𝕏

更多可拆解样本

近期爆款文章

探索更多爆款文章