“可能迫在眉睫”：Anthropic 在招股书里承认，它看不清 AI 造 AI 有多快
美国时间 11 月 2 日，Anthropic 向美国证券交易委员会（SEC）递交了修订版 S-1 招股书。昨天那篇 《收入涨了 47%，Anthropic 却又亏了》 写的是这份文件新补的财务数字。今天写同一份文件里另一处改动，它在“风险因素”一章，只有几句话。
10 月 26 日的初版招股书里有一句：“我们可能要等到加速发生之后，才能识别出研发速度的显著加速。”
一周后的修订版把这句话改成了：“我们过去就曾未能及时识别、将来也可能无法及时识别研发速度的显著加速，直到它已经发生。”紧接着新加了一句：
例如，我们的内部估计以及对未来模型（而非当前模型）的预期表明，我们可能迫在眉睫地达到负责任扩展政策（RSP）中“可归因于 AI 的显著加速进展”的定义。
这里“迫在眉睫”对应原文的 imminently。下一句是：“我们尚未认定任何现有模型超过这一门槛，并且仍在评估相关数据。”
TechCrunch 当天以“Anthropic 警告它已非常接近 RSI 能力”为题报道了这处改动。RSI 是 recursive self-improvement 的缩写，意思是递归自我改进，即 AI 参与造出更强的 AI，更强的 AI 再去造下一代。Gizmodo、heise 等媒体跟进报道。这篇想把几件事讲清楚：这个门槛到底是什么，Anthropic 自己此前怎么说，为什么一家公司会承认测不准自己的速度，以及这对我们这些用 AI 干活的人有什么用。
一周之内，招股书加了哪几句
我把 SEC 网站上的两版招股书正文下载下来逐句对照。和这个话题有关的新增内容有四处：
- “过去就曾事后才识别”。 初版只说将来“可能”识别不及时，修订版改成“过去就曾”，并保留了将来也可能这样的说法。
- “可能迫在眉睫地达到门槛”。 就是上面引用的那句，初版里没有。它明确说依据是对“未来模型”的预期，不是现有模型。
- “正在评估达到 AI 研发能力门槛的影响”。 修订版写道，公司会按 RSP 的规定“在未来发布进一步的报告”。
- “保持人类对前沿模型开发的控制”。 在业务介绍一章，初版只说“用 AI 帮助构建更强的 AI 也可能带来相当大的安全风险”。修订版在后面加了三句：公司相信安全技术投入能让它“比今天更多地”借助 Claude 开发模型；但它“预计无法在缺乏有意义的人类监督或理解的情况下，安全地让 Claude 完全自主地设计和构建一代代前沿模型，如果这在技术上变得可能的话”；因此，它“正在考虑更新负责任扩展政策，以保持人类对 Anthropic 前沿模型开发的控制”。
没变的部分也值得看。两个版本都把“闭环”（closing the loop）写进了术语表，定义是“一个模型的后续版本协助构建下一个版本，以期让能力增长不断复利”；两个版本也都说，这是公司“在前沿 AI 领域最重要的结构性优势之一”。
同一个机制，在业务章节里是护城河，在风险章节里是风险。这一点后面还会说到。
门槛到底指什么
“递归自我改进”这个词容易让人想到科幻片。Anthropic 的 RSP 对这个门槛有相当具体的定义，我读的是 7 月 8 日生效的 3.4 版。
RSP 里有一个叫“关键领域的自动化研发”的能力门槛，评估目前集中在 AI 研发本身。满足以下任一条件，就算越过：
- 模型能以有竞争力的成本完全替代公司全部研究科学家和研究工程师。 “有竞争力”指成本在 5 倍以内。
- AI 进展出现“显著加速”，而且原因很可能与 AI 研发的自动化有关。
招股书说的是第二条。RSP 对它的解释是：观察到或预期 AI 综合能力的进步速度翻倍，比较对象有两个，一是“本来预期的速度”，二是“在 AI 没有显著参与研发时观察到的最快的持续进步速度”；同时，这种翻倍要能“合理地主要归因于”研究或工程的自动化，而不是更多的算力或人手。
脚注里有一个例子：“速度翻倍”指一年取得基准情况下两年的进展。如果基准是一年内算力扩大 3 倍、算法效率提高 3 倍，合计约 9 倍的“有效规模”增长，那么翻倍就意味着约 81 倍。脚注还特意强调，这“不等于研究员的生产率翻倍”，因为投入翻倍不一定让进展速度翻倍。
7 月的 3.4 版专门改过这条定义，原因是内部讨论出一个问题：如果整体进步速度持平甚至放缓，但估计没有 AI 工具时会慢得多，算不算越过门槛？结论是不算。变更记录里有一句很坦白的话：这个门槛“意在捕捉显著的递归自我改进的开端，而事实证明它很难操作化”。
8 月 14 日发布的风险报告补充了更多背景。报告说，这一威胁模型最尖锐、也最关乎决策的版本，是 AI 能力进入“超指数”增长：研发自动化不断复利，“一年内带来大约 10³ 到 10¹⁰ 倍的有效规模增长”。RSP 里的“翻倍”门槛是一个“潜在的早期预警”，不代表这种威胁已经出现。
一旦认定越过门槛，RSP 列出的公司义务包括：投入资源做“安全登月项目”，探索抵御世界上资源最充足的攻击者的办法；对内部 AI 开发达到“全程可见”（eyes on everything），集中保存所有关键开发活动的日志，并用 AI 分析其中的安全威胁、内部人员（包括人和 AI 系统本身）的可疑行为；做系统性的对齐评估。RSP 对全行业的建议更高，安全水平大致要对齐兰德公司的 SL4 级别。
所以，“可能迫在眉睫”说的并不是“AI 明天就能自己造 AI”，而是一个预警线可能很快会被跨过。这条预警线本身定义得很严，跨过之后公司要承担的义务也很重。
三个月前，它还说“低于门槛”
把 Anthropic 今年在这个问题上的公开表述排在一起，能看出措辞是一步步收紧的。
- 2 月 10 日。 RSP 页面的一条更新说，Claude Opus 4.6 没有越过更低一级的 AI R&D-4 门槛，但“有把握地排除这一门槛正变得越来越困难”。
- 8 月 14 日的风险报告（数据截至 7 月 15 日）。 结论是“整体进步速度仍低于 RSP 门槛”。报告说，领先指标显示从 2025 年初到年中开始出现“有意义的加速，但不到 2 倍”；公司“相当有把握”2025 年的加速来自 AI 以外的因素，同时认为自家模型是这种更快趋势一直延续到数据截止日的“关键因素”。报告也写明，这个结论“不确定，并且有一定滞后”。在这一威胁模型的总体评估里，报告认为近期发生灾难的风险低，但“这一威胁模型在未来 6 到 12 个月内成为主要担忧是有可能的”。
- 9 月 22 日，第三方评估机构 METR 的报告。 METR 在 Claude Opus 5.5 发布前做了评估，结论是这个模型的开发“至少在某种程度上被 AI 加速了，但不太可能被 AI 显著加速”，而且它“不太可能完全自动化 AI 研发”。报告还转述了 METR 另一个团队的初步估计：AI 带来的能力进步约为 1.5 倍，也就是“一年取得一年半的进展”，达到 2 倍的可能性大约三成。但 METR 同时写明，这个估计没有说明对应哪段时间，而且那个团队“分享了结论，但没能分享支持证据”。
- 11 月 2 日的修订版招股书。 第一次出现“可能迫在眉睫”。
从“越来越难排除”，到“不到 2 倍，6 到 12 个月内可能成为担忧”，再到“可能迫在眉睫”，十个月里说法变了三次。需要说明的是，这些文件之间还隔着好几次模型发布，招股书列举的近期新模型就有 Mythos 5、Fable 5 和 Opus 5。招股书没有公开它依据的“内部估计”，我们没法自己核对。
九成代码是 Claude 写的，进步却测不准
招股书里有几组和“闭环”直接相关的数字：
- 2026 年 9 月，公司代码库中超过 90% 的贡献由 Claude 编写。 据《科学美国人》6 月的报道，Anthropic 当时公布的数字是超过 80%。
- 三季度每名工程师平均每天贡献的代码量，是 2024 年全年平均水平的 45 倍以上。
- 在缺乏清晰需求、过去依赖资深工程师判断的开放式工程问题上，Claude 的成功率在 9 月达到约 90%，九个月里提高了约 50 个百分点。 这是公司内部基准的结果。
这几组数字很容易让人直接得出“AI 已经在自己造自己”的结论。但如果对照上一节的门槛定义，就能看出两者之间隔着很远。
门槛衡量的是 AI 综合能力进步的速度，不是代码由谁写、写了多少。代码量涨了 45 倍，不等于模型能力的进步速度涨了 45 倍，甚至不等于翻倍。RSP 脚注特意说明“翻倍不等于研究员生产率翻倍”，说的就是这件事。训练一代模型的瓶颈往往不在写代码，而在算力、实验周期，以及 METR 报告里说的研究者的“判断力”或“品味”：决定下一步做哪个实验、怎么读结果。
为什么测不准？风险报告给了一部分答案。Anthropic 过去主要用一个叫 AECI 的内部指标衡量能力进展，它改编自 Epoch AI 的能力指数，把很多基准测试的成绩合成一个数。这个数只能在模型训练出来、测完之后才有，天然是滞后的。公司也在研究一些领先指标，但报告说这些指标“敏感，没有放进公开版本”。
更麻烦的是归因。就算能力曲线翘起来了，要分清这是 AI 研发自动化的功劳，还是因为更多算力、更多研究员或某个人类想出的好点子，本身就很难。风险报告举过一个例子：Mythos Preview 偏离了此前的趋势线，但公司通过和参与者交谈，认为那次突破主要来自人类的研究进展，没有被 AI 显著加速。
所以我理解，招股书里“过去就曾事后才识别”这句话，是这家公司最有信息量的一句自我披露。它没说是哪一次、晚了多久，但它承认了一件事：在 AI 参与研发最深的地方，研发者自己对进展速度的感知是滞后的。这不只是 Anthropic 的问题，任何大量用 AI 写代码、做实验的团队都会遇到。
招股书为什么要写这个
TechCrunch 的报道里提了一句：S-1 既是信息披露，也是营销材料。这个提醒是对的。
一方面，招股书的风险因素一章有很强的法律属性。美国证券法下，发行人对招股书中的重大虚假陈述或遗漏承担责任。如果公司内部已经估计门槛可能很快达到，却不写进去，将来真的发生了，投资人可以拿这一点追责。从这个角度看，加上这几句话是律师会坚持的事。
另一方面，“闭环”被写成公司最重要的结构性优势之一。“我们的模型快到连我们自己都快测不准了”，对一部分投资人来说是很好的卖点。今年 6 月，Anthropic 发表博客讨论 AI 自我构建的问题时，据《科学美国人》报道，本特利大学数学副教授诺亚·贾恩西拉库萨（Noah Giansiracusa）就评论说：“我不认为这是一个真诚的放缓呼吁。”
我的看法是，两种读法都成立，不必二选一。更值得注意的是招股书同时写下的代价。修订版写道，公司已经采取、并可能继续采取预防性的安全措施，过去包括推迟发布和限制初始开放范围，例如 4 月只通过 Project Glasswing 向少数机构开放 Mythos；将来这类措施“可能更频繁、成本更高”，并“可能让我们的能力增长慢于不采取类似限制的竞争对手”。
把“可能被迫放慢”写成上市公司的经营风险，等于提前告诉股东：真到那一步，公司可能做出不利于短期增长的决定。这比一篇博客里的表态更有约束力。至于真到那时它会不会这样做，招股书保证不了，只能以后看。
还有一个外部核查的问题。METR 10 月 14 日发表了一份方法建议，讲独立评估者应该怎么调查 AI 研发自动化带来的加速：看内部能力测量、算法进步估计、研发投入的变化，访谈员工，数据可以在开发者自己的硬件上甚至现场分析。这份建议之所以需要写出来，说明现在还没有这样的机制。9 月的评估里，关键的加速估计连 METR 自己的作者都没看到证据。“可能迫在眉睫”目前仍然只是公司的自我评估。
写给用 AI 干活的团队
前沿实验室的门槛离大多数人很远，但它暴露的测量问题，很多团队已经碰到了。
- 不要把“AI 写了多少代码”当成进展指标。 Anthropic 九成代码由 Claude 写，代码量涨了 45 倍，它自己的结论仍然是整体进步速度没到翻倍。你的团队如果用“AI 生成占比”“PR 数量”来报告效率，最好同时看交付的功能、线上事故、客户问题解决时长这类结果指标。
- 给滞后指标配一组领先指标。 季度复盘时才发现“这季度做得特别快”或“这季度质量出了问题”，就是 Anthropic 说的“事后才识别”。可以每周看几个更早的信号：评审退回率、回滚次数、测试覆盖的变化、需要人工救火的 agent 任务比例。
- 在自动化链条里留出人能看懂的检查点。 招股书里“有意义的人类监督或理解”这个说法值得借用。监督要求人能看懂，不只是签个字。我在 《四成 PR 由 agent 起草之后，谁来点那个“合并”》 里写过评审责任的问题：agent 起草得越多，越要保证合并前有人真的读懂了改动。
- 读招股书和公告，看版本之间的改动。 这次最有信息量的内容不在首版，而在一周后修订版加上的几句。很多公司的风险披露、服务条款、隐私政策也是这样，新增和删掉的句子往往就是公司最新的判断。
- 对“自我改进”的说法保持具体。 下次再看到“某某模型已经能自我改进”的标题，可以问三个问题：衡量的是代码量还是能力进步速度？比较的基准是什么？谁核查过？
写在最后
这件事里我最在意的，不是“迫在眉睫”这个词，而是它前面那句话：我们过去就曾在加速发生之后才识别出来。
一家把安全当成品牌的公司，在最该谨慎的文件里承认，它对自己研发速度的感知是滞后的；同时又说，下一步可能就是那条预警线。它给出的应对是“考虑更新 RSP”“保持人类控制”“未来发布进一步的报告”，这些都还是将来时。
按 RSP 的规定，Anthropic 之后应该会就是否越过这一门槛发布报告。到那时，最值得看的不是结论是“越过”还是“没越过”，而是它用什么数据判断、外部评估者能看到多少，以及“保持人类控制”具体落到了哪些规则上。
参考资料
- Anthropic, PBC, Form S-1/A Registration Statement (Amendment No. 1), SEC, 2026-11-02
- Anthropic, PBC, Form S-1 Registration Statement, SEC, 2026-10-26
- Anthropic, Responsible Scaling Policy, Version 3.4（含变更记录）, 2026-07-08 生效
- Anthropic, Risk Report: August 2026, 2026-08-14
- Anthropic, Responsible Scaling Policy 页面更新记录, 2026-02-10
- METR, Summary of METR’s predeployment evaluation of Claude Opus 5.5, 2026-09-22
- METR, How an assessor could investigate evidence of acceleration from the automation of AI R&D, 2026-10-14
- TechCrunch, Anthropic warns that it’s very close to RSI capability, aka self-building AI, 2026-11-02
- Gizmodo, Anthropic Claims to Be Near Recursive Self-Improvement, 2026-11-02
- heise online, Anthropic: AI could soon dramatically accelerate its own development, 2026-11-03
- Scientific American, Anthropic warns AI may soon begin recursive self-improvement, 2026-06-05