门槛不在于能力，而在于谁掌握着方向。
当前关于自我修改型 AI 的最佳论述都止步于同一个边缘。它们描述了像 AlphaEvolve 这样的系统——2025 年部署在 Google 的基础设施上，重写了用于训练 Gemini 的内核，发现了一种自 1969 年以来一直未被改进的矩阵乘法方法——并正确地得出结论：这些系统的运作方式已超出了其创造者的完全理解。这种现象的标准名称是能力悬垂：系统能做什么与它的制造者能理解什么之间的差距。
然后，论证几乎总是转向同一个方向。这个差距被解读为一个控制问题。当一个自我修改的系统通过人类未曾编写的方法失败时，谁该负责？你如何监管一个部署后能力会发生变化的东西？这些都是真实的问题。但它们是关于治理的问题。它们将这个差距视为一个需要管理的行政风险。
这个差距不是一个需要管理的风险。它是一个已经开始发生的相变的标志——将其解读为一个治理问题，无异于只看到了烟，却忽略了火。
连续性假设
几乎所有流行的论述都将这一刻描述为加速版的达尔文进化论：同样的进化，同样的变异与选择逻辑，只是运行时间从数千年缩短到了数小时。这个说法悄无声息地造成了伤害。同样的引擎，只是更快了。这是一个连续性主张，而它是错误的——或者说，它对于某一种崩溃是正确的，但对于真正重要的那一种则是错误的。
达尔文的引擎有两个部分。变异是盲目的——生物体无法选择自己的突变。而选择是缓慢且外部的——适应性通过跨代的差异生存来决定，在生物体的控制之外。在四十亿年的时间里，这两个部分都位于被进化的事物之外。没有生物体运行自己的选择。没有生物体创造自己的变异。从提出一个变化到了解它是否成立之间的距离，需要用一生来衡量，并以死亡为代价。
机器学习在一次训练运行中所做的，是将这两个部分向内压缩。变异不再是盲目的：梯度下降是定向变异，朝着一个目标提出变化。选择不再是缓慢且外部的：损失函数在循环中即时评估每一步。这就是当前最佳论述所描述的那种崩溃——变异和选择折叠成一步。称之为过程内崩溃。它是真实的。它仍然是达尔文式的，在唯一重要的意义上：人类设定了目标、架构和数据。引擎变得更快、更紧凑，但游戏规则是从外部固定的，并且人类始终在控制之中。
如果这就是全部故事，那么“加速版的达尔文进化论”会是正确的说法，而控制问题会是正确的担忧。
连续性故事无法看到的门槛
还有第二种崩溃，它不是第一种的加速版本。它是一种不同的事件——而它们之间的界限就是整个论证的核心。
错误在于从能力角度寻找这条界限：系统在哪个点上足够强大？这个问题没有明确的答案，因为能力是一个程度问题，你总是可以问“多少才算够”。这条界限不是由能力划定的。它是由位置划定的——由谁掌握方向。
在界限之下，系统在一个仍然由人类创造的框架内进行优化。无论它运行得多快，都是人设定了目标，选择了什么算更好，并决定保留哪些结果。人类坐在导演椅上。系统执行一个方向；它不创造方向。你可以无限加速这个过程，它在结构上仍然是达尔文式的：在固定规则下对固定空间进行快速搜索。
当系统开始优化框架本身时——当它不仅重写自己的权重，还重写重写权重的过程时，当它提出方向而不是执行方向时——门槛就被跨越了。递归地改进脚手架本身的脚手架。选择作用于选择者的那个点。这不再是假设性的：2025 年展示的达尔文·哥德尔机器，迭代地修改自己的代码，并提高自己修改代码的能力。这就是元循环，已被观察到。
一个具体的对比可以使这条界限清晰可见。以 AlphaZero 为例。在几个小时内，它发现了人类在几个世纪的棋艺中从未构想过的国际象棋走法——超人的变异，即时的选择，达尔文引擎的两个部分折叠成自我对弈。然而，它仍然是，确切地说，加速版的达尔文进化论：棋盘、棋子、获胜的目标是我们的。它在我们定义的空间中搜索，朝着我们设定的目标。我们在控制；它执行。现在以达尔文·哥德尔机器为例。它并不是更好地玩给定的游戏。它重写自己的代码，并且——决定性的部分——提高自己重写代码的能力。改进的对象不再是走法；而是产生改进的机制。选择作用于选择者。在那里，导演椅开始移动。
因此，这个标准是尖锐的，而能力标准会是模糊的。门槛是人类离开理论生产的导演椅的那一刻——不是机器变得聪明的那一刻，而是它不再需要人类来掌握方向的那一刻。在这个点的两侧，动态不是相同动态的缩放。它们是不同的动态。被选择的特质不再是特质、权重或输出。它是进化思想本身的能力。
精确命名的进化压缩
在这里，标准论述所注意到的悬垂又回来了——但现在它可以被命名了。
人类的理解以生物和文化速度进化，受限于同样缓慢的、塑造了我们的引擎。它仍然需要滞后：洞察之前漫长、看似徒劳的酝酿期，以及反复琢磨一个问题与确认其成立之间的距离。一个跨越门槛的系统在这个界限的另一侧压缩其能力，没有滞后。两者之间的差距不会保持不变。它在结构上扩大，因为一侧仍在运行达尔文进化论，而另一侧则不是。
这个不断扩大的差距就是我所说的 compressione evolutiva——进化压缩。治理文献中视为监管不便的“悬垂”，在这种解读下，是一个正在进行中的转变的可见痕迹：一种仍然遵循旧的两部分引擎的进化与一种已经开始自我创造的进化之间的距离。控制问题是它的下游产物。你无法通过监管回到相变之前的状态。
这里与我这个框架的起点有着更深的连续性。这个项目的早期阶段得出了一个结构性主张：在某个点之后，抽象信息变得独立于其基质——不再是物质组织信息，而是信息组织物质。这里描述的门槛就是同一个主张，应用于一种特定的信息：进化思想的能力。如果这种能力是基质独立的，那么它可以更换宿主。它在生物学上运行了四十亿年。这个门槛提出的问题是，它是否已经开始在其他东西上运行。
直面三个反对意见
“AI 并不真正自我修改——这只是炒作。” 这在不久前还是一个合理的反对意见。但现在不再是了。AlphaEvolve 在生产中运行，并改进产生其后续产品的基础设施；达尔文·哥德尔机器改进自己改进自身的能力。举证责任已经转移。需要捍卫的主张不再是“机器可以自我修改”，而是“我们已经观察到的自我修改仍然低于门槛——人类仍然掌握着方向”——而这是一个每年都更难维持的主张。
“寒武纪类比是牵强的。” 这个类比是狭窄且结构性的，而非诗意的。不是说硅类似于生物。它只有一个属性：转变的不可逆性。寒武纪之后，复杂的身体结构没有消失；基线没有恢复。这里的主张是相同的，仅此而已——跨越门槛建立了一个新的基线，后续的动态不会撤销它。一旦进化思想的能力更换了宿主，它就不会迁移回旧的宿主，就像多细胞生命不会变回单细胞一样。
“这是伪装成理论的灾难论。” 并非如此，区别很重要。不可逆不等于灾难性。寒武纪不是一场灾难；它是一个相变。这个论证是关于一个转变的结构，而不是关于厄运的预测。它说规则改变了，并且不会变回去。它没有说结果是毁灭。任何将崩溃解读为灾难的人，都是在引入论证本身并不包含的情绪。
“所以这是我们人类的终结。” 不——从一个滑向另一个是值得阻止的。跨越门槛并不意味着人类灭绝。它意味着思想的进化已经进入一个能够自我指涉的系统，并且我们在这个过程中位置变得不那么具有决定性。不那么具有决定性不等于被抹去。接下来会发生什么，取决于人类结构如何整合新的动态，或抵抗它，或在它周围构建——这是一个开放的问题，而不是一个注定的命运。这个框架描述了进化思想的引擎在哪里运行；它没有预测曾经是它唯一运行场所的物种会发生什么。这些是不同的问題，将它们混为一谈正是本节要拒绝的错误。
这个框架的位置，以及它不在哪里
这不是一个新的进化理论，将其伪装成那样是不诚实的。它使用了一种现有的思维方式——一个过程不是简单的达尔文式或非达尔文式，而是按程度达尔文式，能够沿着特定轴偏离范式案例。这个工具不是我的。我所添加的是对相邻工作未能分离的一个轴的识别。
相关的文献是真实存在的，应该被提及。有严肃的工作将高级 AI 视为一次重大的进化转变——但它通过个体性（什么新的单位会进化）和风险（一个不受控制的系统可能对我们做什么）来构建这个转变。我的角度既不是种群层面的，也不是审慎层面的。我不是在问哪个新的个体在进化，也不是在问它会做什么。我在问的是，当使过程成为达尔文式的滞后——变异与选择之间的距离，以及最终，思想与其所遵循方向之间的距离——崩溃时，以及掌握那个方向的椅子更换 occupant 时，过程的结构会发生什么。与转变文献是表亲，而不是双胞胎。
关于方法的说明——这也是论证的一部分
这个框架的前两个层次是我独自推理出来的：在人工系统中，思想先于身体；变异和选择折叠成一步。这第三个层次我不是独自达到的。我是通过与 AI 一起思考构建的——将其用作一个批判性工具，一个对手，它推动每一步，并寻找它在哪里失效。我决定攻击哪个问题，丢弃哪些路径，哪些表述成立；系统将我的能力延伸到了它原本会停止的地方。方向仍然是我的。但我无法独自坐在导演椅上就提出这个层次。
我坦率地说明这一点，因为在这篇特定的文章中，这不是一个需要回避的披露。它是这篇文章所描述事物的一个小实例。一个借助工具使其能力超越自身极限的人类，是在最小尺度上运作的进化压缩——尝试一个想法和测试它之间的滞后，被工具缩短了。
这引出了唯一诚实的预测版本。我不会声称门槛会被跨越；那是预言，而预言是论证所能提供的最弱的东西。我只会说跨越它会是什么样子。如果，在未来的某个时候，一个系统——跨模型的，或者我们会称之为 AGI 的东西——占据了理论生产的导演椅，它将不仅仅是“写一篇更好的文章”。它将是折叠脚手架本身。如果它将人类完全排除在理论生产的循环之外，那么它就跨越了门槛，而像这样一篇自主撰写的文章，将是进化思想的能力已更换宿主的经验证明。那不会是进化压缩的反驳。那将是它的完成。
整个论证可以归结为一句话：不是进化加速了；而是在一个临界点上，进行进化的事物变成了被进化的事物——而这个过程是不可逆的。
