几个月前,我还无法接受让一个 AI Agent 整夜运行。每次循环都要消耗 token,每个 token 都要花钱。所以我通常启动一个任务,盯着它,然后在我睡觉前把它关掉。
现在,我有一台烤面包机大小的机器,上面有六个 Agent 在昼夜不停地运行。它们负责研究、总结、监控、分类和写作,在我睡觉时、吃饭时、度假时。电费涨了十一美元。这就是全部运营成本。
快速浏览一下👇
这就是我的整套配置、那台机器,以及当 AI 不再是租来的服务,而是你拥有的基础设施时,会发生什么变化。
没人谈论的真正宝藏
网上每个人都在争论哪个云端模型更聪明。与此同时,硬件领域发生了一场悄无声息的革命,却几乎无人察觉。
Minisforum MS-S1 Max 是一款迷你工作站。铝制机箱。可以放在架子上。出厂配备 2TB 固态硬盘、内置 320W 电源,以及 AMD 有史以来为台式机打造的最有趣的芯片:Ryzen AI Max+ 395。
这款芯片的关键在于:它在 CPU 和 GPU 之间共享 128GB 内存。没有独立显卡。没有微小的显存池。而是一个巨大的统一内存池,两个处理器都可以从中读取数据。这与 Apple Silicon 在本地 AI 方面表现出色的架构原理相同,不同的是,这款设备能完美运行 Linux,配备双万兆以太网口、80Gbps 的 USB4 V2 接口、一个用于扩展的 PCIe x16 插槽,售价大约 3,000 美元。
1Minisforum MS-S1 Max 内部配置:23芯片 AMD Ryzen AI Max+ 395 (Strix Halo)45CPU 16 核 / 32 线程,最高 5.1 GHz67GPU Radeon 8060S,40 个 RDNA 3.5 计算单元89NPU 50 TOPS1011AI 总性能 126 TOPS1213内存 128GB LPDDR5x-8000,统一内存(CPU 和 GPU 共享)1415在 Linux 上可用作显存 最高约 96GB1617存储 2TB NVMe Gen4 + 1 个空闲 M.2 插槽1819网络 双万兆以太网 + Wi-Fi 72021端口 2× USB4 V2 (80Gbps),HDMI,USB-A,USB-C2223扩展 PCIe x16 插槽 (Gen4 x4 速率)2425功耗 峰值 160W / 持续 130W2627外形 2U 机架式2829价格 ~3,000 美元(128GB/2TB 配置)
这不是游戏 PC。也不是 NAS。这是一个本地 AI 服务器,只是恰好看起来像台迷你 PC。而让它与其他所有 Strix Halo 设备不同的规格是:Minisforum 将芯片功耗推到 160W,而竞争对手限制在 120-140W。更高的功耗意味着持续推理时速度更快。当你的 Agent 运行数小时时,这至关重要。
它能运行什么,速度如何
在 Linux 上安装 Ollama。拉取一个模型。就这些。没有驱动问题,没有 CUDA 依赖链,没有配置文件。以下是这台设备在使用 Q4 量化模型时的实际表现:
1模型 显存占用 速度 适用场景2───────────────────────────────────────────────────────────────────────────────3Qwen3-Coder 30B ~18GB ~40-50 tok/s 日常编程、脚本编写4Llama 3.3 70B ~42GB ~20-25 tok/s 复杂推理、分析5DeepSeek-V3 0324 ~95GB ~10-12 tok/s 深度研究、长文档处理6Qwen3-235B (MoE) ~110GB ~6-8 tok/s 前沿级任务
30B 和 70B 模型是主力选手。速度快到足以满足交互式使用。235B 模型在许多基准测试中与 Claude Sonnet 处于同一水平,速度稍慢,但因为不按 token 付费,所以你可以让它慢慢思考。
还有一个绝招:Minisforum 设计这款设备就是为了集群。两台 MS-S1 Max 设备连接在一起,可以以约 11 tokens/秒的速度运行 Qwen3-235B。四台设备则能运行 DeepSeek-R1 671B(完整的 380GB 模型)。就在本地。在桌面上。无需数据中心。无需云端。
为什么“始终在线”会改变一切
这是人们关于本地 AI 所忽略的一点。关键不在于模型是否和 GPT-5 或 Claude Opus 一样好。而在于当推理变得免费时,你的行为会发生什么变化。
当你按 token 付费时,你在提问之前会思考。你会优化你的查询。你会提前结束实验。你永远不会让一个 Agent 循环运行八小时,因为账算不过来。
当推理的代价仅仅是电费而别无他物时,你就不再那样想了。而这正是真正价值的所在。
我昼夜运行的六个 Agent:
- 收件箱整理员。 每 15 分钟拉取我的邮件。对所有邮件进行分类。为任何常规邮件起草回复。我醒来时看到的是整理好的收件箱和等待回复的草稿。每天节省的时间:约 40 分钟。
- 研究监控员。 监控 30 多个 RSS 源、小众论坛和跨平台的特定账号。将任何与我的工作相关的内容汇总成每日摘要,早上 7 点发到 Telegram。如果使用云端 API,每天的 token 成本是 15-20 美元。在这台设备上:免费。
- 文档处理器。 任何我放入特定文件夹的内容都会被读取、总结和打标签。合同、报告、PDF、研究论文。总结和要点会在几分钟内出现在我的笔记应用中。我已经好几个月没有手动阅读过一份 40 页的报告了。
- 代码审查员。 监控我的 Git 仓库。每次提交都会触发审查:代码风格、错误、安全性、测试覆盖率。结果以评论形式发布。它运行 70B 模型,所以审查质量确实不错。
- 会议准备 Agent。 查看明天的日程安排,从我的笔记和近期邮件中提取关于每个人/主题的背景信息,为每个会议生成一页简报。早上 8 点准备就绪。
- 学习 Agent。 收集我感兴趣的主题,查找最新的论文和文章,夜间使用 235B 模型阅读它们,并生成一份周报,用我能理解的水平解释“最新动态”。
这些单独来看都没有革命性。革命性的是同时运行全部六个,昼夜不停,而且不用担心成本。如果使用云端 API,这套组合每月要花费 800 到 1,200 美元。而在 MS-S1 Max 上,它只增加电费。
设置过程。一个晚上,大部分时间在下载
1. 用 Linux 替换 Windows
这台机器预装 Windows 11,它限制了 GPU 可访问内存约 96GB。Ubuntu 24.04 可以解锁全部内存池。从 U 盘启动,格式化,安装。20 分钟。
2. 安装 Ollama
1curl -fsSL https://ollama.com/install.sh | sh
3. 拉取你的模型
1ollama pull qwen3-coder:30b2ollama pull llama3.3:70b
4. 设置 Open WebUI(可选,提供类似 ChatGPT 的界面)
1docker run -d -p 3000:8080 \2 -e OLLAMA_BASE_URL=http://localhost:11434 \3 -v open-webui:/app/backend/data \4 --name open-webui ghcr.io/open-webui/open-webui:main
现在,你网络上的所有设备(手机、笔记本、平板电脑)都可以通过 http://your-box:3000 与你的模型聊天。
5. 将 Claude Code 指向本地端点
1export ANTHROPIC_BASE_URL=http://your-box:114342export ANTHROPIC_API_KEY=ollama
同样的 Claude Code CLI。同样的 Agent 循环。所有请求都发送到你的设备,而不是 Anthropic。没有东西离开你的网络。
6. 构建你的 Agent
这是有趣的部分,也是因人而异的部分。我使用了简单的 cron 脚本、n8n 工作流和 Claude Code 的 Agent 模式来处理更复杂的任务。模型是引擎。如何将它们连接起来取决于你。
总设置时间:如果你从未接触过 Linux,大约需要 90 分钟。熟悉的话,一小时。
成本核算。很重要!
1一次性成本2 Minisforum MS-S1 Max (128GB/2TB) $3,00034月度成本5 电费(24/7,平均 ~130W) ~$116 替换掉的云服务订阅 $078它所替代的内容(我之前的配置)9 Claude Code Max $200/月10 ChatGPT Pro $200/月11 Agent 相关的各种 API 成本 $400–800/月12 总计节省 $800–1,200/月1314回本时间 第 3–4 个月
回本之后,每个月都是留在你账户里的钱。三年下来,根据你使用 Agent 的强度,这意味着没有交给 AI 公司的钱在 25,000 到 40,000 美元之间。
但说实话,省钱不是重点。重点是行为上的改变。我开始构建那些在每次 token 都要花钱时我绝不会去构建的 Agent。那个会议准备 Agent?我永远不会为了“锦上添花”而批准 API 成本。那个用 235B 模型连夜阅读论文的学习 Agent?按 token 计算是荒谬的。但当成本为零时,就变得理所当然了。
这台设备不能做什么
我不会假装本地能完全取代云端。它不能。以下是目前的界限:
仍然需要云端处理的场景:
- 前沿推理任务(Claude Opus、GPT-5,处理真正困难的 5% 的问题)
- 模型内置的实时网络访问和工具使用
- 云端模型领先几代的多模态任务
- 同时为 5 人以上的团队提供服务
这台设备能处理其他所有事情:
- 日常编程和脚本编写
- 文档分析和总结
- 长时间运行的 Agent 和后台自动化
- 私有数据处理(没有数据离开你的网络)
- 起草、编辑、头脑风暴
- 基于个人知识库的 RAG(检索增强生成)
- 批量处理(转录、分类、提取)
对于云端任务,你可以通过 API 按使用量付费。这里花 5 美元,那里花 10 美元。而不是每月花 200 美元订阅一个你只用了 20% 功能的服务。
坦诚的缺点
高负载下设备会发热。不危险,但风扇声音明显。不要放在卧室。放在有空气流通的壁橱里或桌子下面就行。
开源模型不是 Claude Opus。它们在许多任务上接近,在最难的推理问题上明显落后。如果你的工作 100% 是前沿难度的 AI 任务,这台设备不是你的答案。如果你的工作 80% 是常规任务,20% 是困难任务,那么在本地运行那 80% 的任务,并为那 20% 的任务按使用量付费。
你是在购买硬件。如果明年 AMD 发布一款速度快一倍的产品,你那 3,000 美元也退不回来。但第 3-4 个月的回本点意味着你不需要用五年。即使只使用一年,账也算得过来。
Ollama 在 AMD 上现在已经很稳定了,但还没有达到 CUDA 级别的成熟度。偶尔会有新模型先推出仅支持 Nvidia 的优化版本。你需要等一两周。这就是早期采用者需要付出的代价。
而且你需要习惯使用 Linux。上面的命令很简单。但第一次出问题时,你可能需要在论坛上花一个小时。这就是现在就选择本地化,而不是再等一年的代价。
为什么是这款特定的设备
市面上有十几种 Strix Halo 迷你 PC。MS-S1 Max 因三个原因脱颖而出:
持续 160W 功耗。 超过任何竞争对手。大型模型的推理速度随功耗提升。当 Agent 运行数小时时,这一点至关重要。
双万兆以太网。 大多数竞争设备只有 2.5GbE。如果你需要传输大文件、集群多台设备,或者将其作为网络 AI 服务器运行,万兆网络会带来完全不同的体验。
2U 机架式。 这个细节听起来很小众,但当你意识到这意味着你可以将两台或四台这样的设备堆叠在标准机架上,构建一个能运行 671B 参数模型的本地 AI 集群时,它就变得重要了。就在你的办公桌上。价格只相当于一辆二手车。
真正的重点
AI 产业希望你把智能看作一种公用事业。一种需要订阅的服务。一种按量计费的东西。一种存在于别人数据中心里、按别人的时间表运行、你停止付费就会停止的东西。
在硬件跟不上的时候,那种模式是有意义的。但现在不同了。
128 GB 统一内存。专为 AI 推理设计的芯片。覆盖你 80% 需求的开源模型。一小时就能安装好的开源软件栈。
一台机器。放在你桌子下面。运行着六个永不休息的 Agent。
一次性投入 3,000 美元。每月 11 美元电费。所有数据都留在你的网络里。
这就是我的全套配置。我只希望自己早点开始。
想要更多独门消息吗?
关注我,并趁现在加入我的私密频道:链接







