Dario Amodei 新文解读：AI 跑太快，监管、就业和国际竞争都跟不上了

Fri, 12 Jun 2026 14:36:10 +0800

Dario Amodei 在 2026 年 6 月发了一篇很长的政策文章：Policy on the AI Exponential。

这篇文章不是单纯谈 AI 安全，也不是单纯谈监管。它真正想说的是一个时间差：AI 能力在按指数曲线推进，而政策系统仍然按传统速度移动。

用他的比喻说，AI 像《指环王》里急着求援的霍比特人，政治制度像行动缓慢的树人。问题不是树人完全不醒，而是醒来太慢。等立法、监管、国际协调慢慢形成时，AI 可能已经从“有趣的工具”变成“数据中心里的一整个天才国家”。

这篇文章值得看，不是因为它给出了所有答案，而是因为它把 Anthropic 现在最关心的政策议题摊开了：模型发布前测试、就业冲击、科学监管、公民自由、民主国家联盟。

文章的核心判断

Dario 的主线很清楚：过去几年，AI 风险还不够具体，所以最现实的政策是透明度、信息披露、芯片出口管制、劳动力影响数据收集。

这些政策的作用，是给未来反应留出选择权。

但他认为，现在情况已经变了。前沿模型在网络安全等领域的能力，已经足以让 AI 成为国家战略层面的工具。未来还可能出现生物风险、自治系统失控、自动化研发加速风险。

所以政策不能只停留在“先看看”。他主张进入更强约束阶段：对超过一定算力阈值的前沿模型，做强制第三方测试；如果模型在特定风险领域不可接受，政府应有权阻止或延后部署。

这不是把 AI 当普通软件管，而是更接近飞机、药品、汽车这类高影响技术：能带来巨大收益，但设计或运营不当也会造成大规模伤害。

第一块：监管要从透明度走向发布前测试

文章第一部分谈监管和公共安全。

他承认，过早监管很容易写错。2023 到 2024 年，风险方向能看见，但风险形态、测试方法、缓解手段还没完全清楚。如果那时立法，很可能会制造大量低价值合规要求，却错过真正重要的风险。

所以 Anthropic 当时支持透明度立法：让模型开发者披露安全流程、测试方式和重大安全事件。

现在他认为，仅有透明度不够了。

他提出的方向包括：

超过算力阈值的模型，必须接受合格第三方在四类风险上的测试：网络安全、生物武器、AI 系统失控、可能加速这些风险的自动化研发。
如果第三方评估认为模型风险不可接受，政府应有权阻止或震慑部署。
测试可以由类似 FAA 的政府机构执行，也可以由政府授权和监督的私营评估机构执行。
开发前沿模型的公司必须保护模型权重，定期红队测试和渗透测试，并与政府合作防御主要威胁行为体。
四类关键风险中的安全事件必须及时报告。

这里的关键词是“具体风险”。他并不是主张政府无限制接管 AI，而是把权力范围限定在四类最严重风险上，并要求防止政治偏袒和任意裁量。

第二块：就业问题不是 PR 问题

第二部分谈宏观经济和税收政策。

Dario 的判断有两面。

一面是强乐观：如果 AI 能远超人类完成大多数认知任务，它可能通过科学、技术和运营效率提升，带来极快的经济增长。AI 还能帮助制造更强的 AI，这会进一步放大增长。

另一面是强担忧：同样因为 AI 能替代广泛认知能力，它也可能比过去技术更快、更深地冲击劳动力市场。

他说得很直接：我们可能进入一个“超增长、超不平等”的世界。届时最大挑战不再是如何刺激增长，而是如何让所有人分享增长收益。

这部分有两个值得注意的表述。

第一，他强调持久性失业不是目标，而是需要尽量避免的风险。Anthropic 不是希望企业用 AI 裁员，而是希望企业找到新收入、新用例，让现有员工做更多事情。

第二，就业政策不能只解决“给钱”问题，还要解决人的意义、目标和能动性。经济支持重要，但人如何在 AI 比自己更强的世界里找到价值，是更深的问题。

他的政策建议包括：

建立更好的劳动力市场测量体系，追踪 AI 对岗位的真实影响。
用工资保险、留任税收激励、培训补助、劳动力匹配基础设施来减缓替代速度。
如果劳动需求长期下降，需要考虑长期收入支持，例如全民基本收入、资本收益税、面向全民的资本账户等。

他还提到数据中心和电价争议：AI 公司应承担电价上涨成本，但公众对数据中心的反感，更多是对 AI 经济冲击焦虑的出口。

第三块：AI 的正面收益也会被旧监管卡住

第三部分谈科学创新，尤其是生物医学。

这里他的观点和第一部分有点反向。

对 AI 本身，他担心监管不够快；对 AI 加速出来的下游科技，他担心监管太慢、太旧，接不住创新速度。

以药物研发为例，AI 可能带来这些变化：

大幅增加进入监管管线的新药候选数量。
提高药物效果和安全性。
开发过去无法治疗疾病的候选药物。
快速创造新的治疗形态。

但现有药品监管流程建立在一个比较悲观的假设上：候选药物多数无效，即使有效也可能有严重安全问题。所以 FDA、EMA 这类机构通常需要多年时间完成审批。

如果 AI 让候选药物大量涌入，旧流程可能被堵死。

他的建议不是降低安全标准，而是提前建立新标准：哪些临床步骤可以由 AI 模拟或分析替代，什么条件下接受 AI-based PD/PK 建模、毒理预测、剂量选择、 biomarker 验证、synthetic control arms、surrogate endpoints。

这部分很关键。它提醒我们，AI 政策不只是“怎么限制 AI”，也包括“怎么让 AI 带来的好处不要被旧制度拖慢”。

第四块：国家权力和公民自由会被 AI 重新放大

第四部分谈国家、公民自由和权力制衡。

Dario 的担忧是：强 AI 落在错误的人手里，可能成为极权工具。已有的法律和宪法保护机制，未必能应对 AI 带来的突然权力跃迁。

他举了几类风险：

完全自动化武器可能服从非法命令，让政府绕过人类军官的专业约束。
面向监控的 AI 可以大规模分析公开和私有数据，推断公民生活的最深层细节。
政府或公司都可能借 AI 获得过度权力，甚至绕过民主监督。

他的政策建议包括：

为完全自主武器建立可靠问责规则，确保它们响应法院命令、立法和高级人类监督，而不是盲目服从命令。
禁止在国内执法中使用完全自主武器。
关闭数据经纪商和大规模数据购买漏洞，防止私人公司数据被用于国内监控和执法。
当政府对个人或组织采取不利行动时，被影响者应有权使用至少同等能力的 AI 建议，避免政府单方面获得 AI 优势。

这一部分的底层逻辑是：AI 不只改变生产力，也改变权力分配。政策如果只看经济和安全，会漏掉自由和制度约束。

第五块：民主国家要围绕 AI 重新结盟

第五部分谈地缘政治。

Dario 明确反对把 AI 只看成贸易政策工具。他认为 AI 更像核武器级别的战略变量，甚至可能更重要。

如果强 AI 真能接近“数据中心里的天才国家”，它就会成为国家军事和经济能力的主要来源。一个拥有强 AI 的国家，面对落后三年的国家，可能会形成碾压式优势。

因此，他主张民主国家建立一个围绕共同价值构建 AI 的全球联盟。

这个联盟要做几件事：

管理 AI 供应链，在可信联盟内部共享芯片和半导体制造设备，同时限制对手获取。
国际协调生物、网络安全和自治风险监管标准。
共享 AI 经济收益和有益部署经验，帮助发展中国家获得好处。
在网络防御、无人机、制造、保密算力、AI 驱动研发和情报分析上互相防御。
拒绝 AI 驱动的高科技极权压制。
在就业和宏观经济冲击上协调政策。

他希望这个联盟先从价值接近的民主国家开始，再逐步吸引更多国家加入。理想状态是全世界最终都加入；如果做不到，至少让民主国家处在最有利位置，遏制和超越仍坚持压制路线的政权。

这篇文章最有价值的地方

我觉得这篇文章最值得读的，不是某一条具体政策，而是它把 AI 政策问题分成了五个层面：

模型本身怎么管。
劳动力和财富分配怎么管。
AI 加速出的科学成果怎么放行。
国家和公司权力怎么约束。
民主国家怎么在全球竞争中组织联盟。

这比单纯讨论“开源还是闭源”“监管还是不监管”更接近真实问题。

AI 的麻烦不在于它只冲击一个部门。它同时像软件、像基础设施、像军工能力、像科研加速器、像劳动力替代器、像国家权力放大器。

所以政策也不能只靠一条线。

也要看到它的立场

这篇文章来自 Anthropic CEO，所以它当然不是中立学术论文。

它会天然强调前沿模型风险，强调发布前测试和政府介入，也会强调民主国家联盟与供应链控制。这些立场和 Anthropic 的产品位置、公司治理、美国公司身份都有关系。

但这不意味着文章不值得读。

相反，它的价值正来自这种位置：一家前沿模型公司正在公开说，AI 已经不是“市场自己会消化”的普通技术，而是需要政策系统重新提速的指数级变量。

你可以不同意他的具体方案，但很难忽视这个判断：如果 AI 能力继续快速提升，慢政策遇到快技术，迟早会出问题。

小结

Policy on the AI Exponential 这篇文章的核心，是把 AI 政策从“有没有必要监管”推进到“政策系统如何追上指数曲线”。

Dario Amodei 的答案是：前沿模型要发布前测试，就业冲击要提前测量和缓冲，生物医学等正向应用要改革监管通道，公民自由要防止 AI 放大国家和公司权力，民主国家要围绕供应链、安全标准和价值观形成联盟。

这套方案未必完整，也一定会有争议。

但它提出了一个越来越难绕开的问题：当 AI 用一年走完过去技术十年的路时，政策还能不能继续按过去的速度走？

参考资料：

Policy on the AI Exponential - Dario Amodei

地缘政治 on KnightLi的博客