大多数 AI 教程都是从代码开始的。
但它们跳过了真正重要的部分。
也就是概念。
于是你构建了一个半成品聊天机器人。你不知道它为什么会产生幻觉。你也不明白上下文窗口到底是什么意思。你不清楚为什么你的 RAG 系统返回了错误的文档。
然后你就在盲目调试。
以下是每个构建者在写一行代码之前都必须理解的 10 个 AI 概念。
不需要博士学位。没有行话。
只有那些能让一切豁然开朗的心智模型。
收藏起来。它能为你节省数周时间。
1. Token——AI 真正读取的东西
你写了一个句子。但模型看到的并不是一个句子。
它看到的是 Token。
Token 是一小段文本。
→ 有时是一个完整的词："build" → 1 个 Token
→ 有时是一个词的一部分："building" → "build" + "ing" → 2 个 Token
→ 有时是标点符号："." → 1 个 Token
"Building AI apps is fun" → 6 个 Token
为什么这对构建者很重要：
AI 中的一切都是用 Token 来定价、限制和衡量的。
→ API 成本 = 每 1,000 个 Token 的成本 → 上下文窗口 = 一次请求中最大 Token 数 → 速率限制 = 每分钟 Token 数
一旦你理解了 Token，你就不会再被以下问题困扰：→ 为什么你的提示被截断了 → 为什么 API 账单比预期高 → 为什么模型"忘记"了你之前说的内容
经验法则：1,000 个 Token ≈ 750 个单词。
2. Embedding——AI 如何理解语义
文本变成 Token 之后，会变成数字。
这些数字叫做 Embedding。
每个单词、句子或文档都会被转换成一个向量——一串代表其含义的数字。
关键洞察：
含义相似 = 数字相似 = 在空间中距离相近。
→ "医生" 靠近 "护士"
→ "水果苹果" 远离 "苹果公司"
→ "国王" 减去 "男人" 加上 "女人" ≈ "女王"
AI 不像你那样理解含义。
它理解的是距离。
为什么这对构建者很重要：
Embedding 驱动着所有"理解意图"的功能：
→ 语义搜索（找到含义，而不仅仅是关键词）→ 推荐（相似物品）→ RAG 系统（找到相关文档）→ 对话式 PDF（将你的问题匹配到正确的页面）
如果你的搜索返回了错误的结果，通常应该从 Embedding 模型入手。
3. Attention——AI 如何理解上下文
同一个词，完全不同的含义。
→ "她吃了一个苹果" → 水果
→ "她买了苹果股票" → 公司
模型如何知道是哪一个？
通过 Attention。
Attention 让每个单词都能关注到句子中的其他所有单词，并决定哪些最重要。
它不是从左到右阅读。它是一次性看到整个句子，并动态地将各部分联系起来。
在"她买了苹果股票"中：→ "苹果" 对 "买了" 和 "股票" 给予高度 Attention → 模型得出结论：公司
在"她吃了一个苹果"中：→ "苹果" 对 "吃了" 给予高度 Attention → 模型得出结论：水果
在 Attention 之前，模型是逐词阅读的。速度慢，且会错过远距离的关联。
有了 Attention 之后，模型能同时看到一切。
正是这个单一的理念，让现代 AI 得以工作。
为什么这对构建者很重要：
理解 Attention 能解释为什么：→ 当上下文清晰时，你的模型能很好地处理长提示 → 模糊的提示会产生不一致的输出 → 在提示中添加上下文能显著改善结果
4. Transformer——一切背后的引擎
GPT。Claude。Gemini。Llama。Mistral。
全部都是 Transformer。
Transformer 是运行在你将使用的每一个现代 AI 模型之下的架构。
它通过一个简单的流程工作：
文本 → Token → Embedding → Attention 层 → 预测
模型不会一次性生成一个完整的句子。
它一次只预测一个 Token。
→ 预测下一个 Token → 将其添加到序列中 → 再次预测下一个 Token → 重复
这个循环——每秒运行数十亿次——就是你看到的文本生成的过程。
为什么这对构建者很重要：
理解 Transformer 流程能解释：
→ 为什么更长的输出需要更长时间（更多的预测循环）
→ 为什么模型是"非确定性的"（每一步都有概率）
→ 为什么前面的 Token 会影响后面的 Token
→ 为什么在思考中途切断上下文会破坏输出质量
你不需要构建一个 Transformer。你需要理解你正在调用的这个"黑盒"内部发生了什么。
5. LLM——它们到底是什么
LLM 是一个在大量文本上训练过的 Transformer，只做一件事：
预测下一个 Token。
仅此而已。
训练数据：书籍、网站、代码、维基百科、Reddit、文档。
数万亿个 Token。
这个训练任务听起来太简单了，不足以解释这些模型能做什么：
→ 看到文本 → 预测接下来是什么 → 检查是否正确 → 稍微调整权重 → 重复数万亿次
结果：一个模型如此深入地学习了人类语言的模式，以至于它可以编写代码、解决问题、翻译语言和解释复杂概念。
这些功能没有一个是明确编程出来的。
它们是从大规模的下一个 Token 预测中涌现出来的。
作为构建者，最重要的事情是：
LLM 不是数据库。它们不会查找答案。它们基于模式预测答案。
这个区别解释了一切——包括它们为什么会产生幻觉。
6. 幻觉——AI 为什么自信地说谎
在生产环境中，你肯定会遇到这种情况。
用户向你的 AI 应用提问。AI 给出了一个自信、结构完整、但完全错误的答案。
这就是幻觉。
原因如下。
模型并不是在努力说出真相。
它是在努力预测最可能的下一个 Token。
如果某个虚假陈述看起来像是基于训练模式"应该接下来出现"的内容——它就会生成它。没有验证。没有查找。纯粹的模式补全。
它会：
→ 引用不存在的论文
→ 描述从未创建的 API 函数
→ 自信地陈述虚假的统计数据
→ 发明听起来合理但错误的代码
危险在于：它从不会表现得不自信。
作为构建者，你该怎么做：
→ 使用 RAG（获取真实数据，不要依赖记忆）
→ 在向用户展示输出之前添加验证层
→ 使用工具调用（让模型去检查，而不是猜测）
→ 在生产环境中，对于事实性内容，永远不要在不加检查的情况下直接使用原始 LLM 输出
理解幻觉，是区分那些发布安全 AI 产品的开发者和发布令人尴尬产品的开发者的关键。
7. Temperature——创造力调节器
每次 AI 生成一个 Token 时，它都会计算每个可能的下一个词的概率。
Temperature 控制接下来发生的事情。
→ 低 Temperature：几乎总是选择最可能的 Token。安全。可预测。
→ 高 Temperature：从概率分布中更随机地选择。有创意。多样化。
构建者的实用设置：
用例 Temperature
编写代码 0.1–0.2
事实性问答 0.2–0.3
摘要 0.3–0.5
聊天机器人回复 0.5–0.7
创意写作 0.8–1.0
头脑风暴 1.0+
大多数初学者会犯的错误：
对所有任务都使用默认 Temperature（通常是 0.7–1.0）。
然后奇怪为什么他们的编码助手写出的代码很有创意但充满错误。
Temperature 只是一行代码。请有目的地设置它。
8. 上下文窗口——AI 的工作记忆
每个 AI 模型一次只能"看到"固定数量的文本。
这个限制就是上下文窗口。
它包含一次请求中的所有内容：
→ 你的系统提示 → 对话历史 → 你传入的文档 → 模型自己的回复 → 你当前的消息
所有这些都必须放在窗口内。
当前限制：
→ GPT-4o：128,000 个 Token → Claude 3.5 Sonnet：200,000 个 Token → Gemini 1.5 Pro：1,000,000 个 Token
更大听起来更好。但有一个问题。
模型并不是均匀地阅读上下文。
它们更关注开头和结尾。
中间部分？常常被忽略。
这被称为"迷失在中间"问题。
作为构建者，这意味着：
→ 将最重要的指令放在系统提示的顶部 → 将最重要的上下文紧挨在用户问题之前 → 不要仅仅因为你包含了某内容就假设模型"看到"了它 → 对长文档进行分块和摘要，而不是将它们整体倾倒进去
上下文管理是 AI 工程中最重要的技能之一。
9. RAG——AI 如何使用你的数据
LLM 是在截止日期之前的数据上训练的。
它们不知道：→ 你公司的内部文档 → 上周的新闻 → 你的产品文档 → 你用户的数据
RAG 解决了这个问题。
RAG = 检索增强生成
模型不是从记忆中回答，而是首先搜索知识库，然后使用找到的内容来回答。
每个构建者都需要了解的流程：
- 用户提问
- 问题 → Embedding → 搜索向量数据库
- 检索到最相关的文档
- 文档 + 问题发送给模型
- 模型使用真实、具体的数据回答
为什么 RAG 在大多数用例中比微调更好：
→ 你的数据变了？只需更新文档。无需重新训练。
→ 需要来源引用？文档就在那里。→ 大幅减少幻觉。
→ 适用于永远不应进入训练集的私有数据。
你使用的每一个严肃的 AI 产品内部都采用了 RAG。
客服机器人。文档助手。法律工具。内部知识库。
如果今年你要学一个架构模式，就学 RAG。
10. AI Agent——真正能做事的 AI
标准 LLM：→ 你提问。它回答。结束。
AI Agent：→ 你给出一个目标。它制定计划。它使用工具。它检查结果。它调整。它完成。
区别在于一个循环。
Agent 循环：
- 理解目标
- 决定下一步做什么
- 使用工具执行
- 检查发生了什么
- 决定下一步
- 重复直到完成
Agent 可以使用哪些工具？
→ 网络搜索 → 代码执行 → 文件读写 → API 调用 → 数据库查询 → 电子邮件和日历 → 浏览器控制
真实示例——调试 Agent：
→ 读取错误 → 搜索代码库找到相关文件 → 识别问题 → 编写修复方案 → 运行测试 → 发现仍有 2 个测试失败 → 读取失败的测试 → 调整修复方案 → 再次运行 → 所有测试通过 → 完成
模型是大脑。工具是双手。
为什么构建 Agent 很难：
每一步都有失败率。三步在 90% 的准确率下 = 72.9% 的任务完成率。十步 = 34.8%。
这就是为什么可靠性工程才是 Agent 真正的挑战——而不是构建 Agent 本身。
以下是你从零开始学习这些内容的精确顺序：
→ 1. Token（理解一切衡量的单位）
→ 2. Embedding（理解含义如何变成数字）
→ 3. Attention（理解上下文如何工作）
→ 4. Transformer（理解架构）
→ 5. LLM（将一切连接起来）
→ 6. 幻觉（理解核心失败模式）
→ 7. Temperature（学习控制输出风格）
→ 8. 上下文窗口（学习管理记忆）
→ 9. RAG（学习使用你自己的数据）
→ 10. Agent（学习构建能行动的系统）
这不是 10 个随机知识点。
这是一个完整的关于 AI 工程如何运作的心智模型。
一旦你理解了全部 10 个，AI 就不再像魔法。
它开始像工程。
而那时，你才真正开始构建能工作的东西。
如果这对你有帮助：
→ 转发以帮助其他构建者更快学习
→ 关注 @sairahul1——我撰写关于构建真实 AI 系统的内容
→ 在你的下一个 AI 项目之前收藏本文
我撰写关于 Claude、AI 系统和面向构建者的工具的内容。
