Dario Amodei 在 2026 年 6 月发了一篇很长的政策文章：Policy on the AI Exponential。
这篇文章不是单纯谈 AI 安全，也不是单纯谈监管。它真正想说的是一个时间差：AI 能力在按指数曲线推进，而政策系统仍然按传统速度移动。
用他的比喻说，AI 像《指环王》里急着求援的霍比特人，政治制度像行动缓慢的树人。问题不是树人完全不醒，而是醒来太慢。等立法、监管、国际协调慢慢形成时，AI 可能已经从“有趣的工具”变成“数据中心里的一整个天才国家”。
这篇文章值得看，不是因为它给出了所有答案，而是因为它把 Anthropic 现在最关心的政策议题摊开了：模型发布前测试、就业冲击、科学监管、公民自由、民主国家联盟。
文章的核心判断
Dario 的主线很清楚：过去几年，AI 风险还不够具体，所以最现实的政策是透明度、信息披露、芯片出口管制、劳动力影响数据收集。
这些政策的作用，是给未来反应留出选择权。
但他认为，现在情况已经变了。前沿模型在网络安全等领域的能力，已经足以让 AI 成为国家战略层面的工具。未来还可能出现生物风险、自治系统失控、自动化研发加速风险。
所以政策不能只停留在“先看看”。他主张进入更强约束阶段：对超过一定算力阈值的前沿模型，做强制第三方测试；如果模型在特定风险领域不可接受，政府应有权阻止或延后部署。
这不是把 AI 当普通软件管，而是更接近飞机、药品、汽车这类高影响技术：能带来巨大收益，但设计或运营不当也会造成大规模伤害。
第一块：监管要从透明度走向发布前测试
文章第一部分谈监管和公共安全。
他承认，过早监管很容易写错。2023 到 2024 年，风险方向能看见，但风险形态、测试方法、缓解手段还没完全清楚。如果那时立法，很可能会制造大量低价值合规要求，却错过真正重要的风险。
所以 Anthropic 当时支持透明度立法：让模型开发者披露安全流程、测试方式和重大安全事件。
现在他认为，仅有透明度不够了。
他提出的方向包括：
- 超过算力阈值的模型，必须接受合格第三方在四类风险上的测试：网络安全、生物武器、AI 系统失控、可能加速这些风险的自动化研发。
- 如果第三方评估认为模型风险不可接受，政府应有权阻止或震慑部署。
- 测试可以由类似 FAA 的政府机构执行，也可以由政府授权和监督的私营评估机构执行。
- 开发前沿模型的公司必须保护模型权重，定期红队测试和渗透测试，并与政府合作防御主要威胁行为体。
- 四类关键风险中的安全事件必须及时报告。
这里的关键词是“具体风险”。他并不是主张政府无限制接管 AI，而是把权力范围限定在四类最严重风险上，并要求防止政治偏袒和任意裁量。
第二块：就业问题不是 PR 问题
第二部分谈宏观经济和税收政策。
Dario 的判断有两面。
一面是强乐观：如果 AI 能远超人类完成大多数认知任务，它可能通过科学、技术和运营效率提升，带来极快的经济增长。AI 还能帮助制造更强的 AI，这会进一步放大增长。
另一面是强担忧：同样因为 AI 能替代广泛认知能力，它也可能比过去技术更快、更深地冲击劳动力市场。
他说得很直接：我们可能进入一个“超增长、超不平等”的世界。届时最大挑战不再是如何刺激增长，而是如何让所有人分享增长收益。
这部分有两个值得注意的表述。
第一，他强调持久性失业不是目标，而是需要尽量避免的风险。Anthropic 不是希望企业用 AI 裁员，而是希望企业找到新收入、新用例，让现有员工做更多事情。
第二，就业政策不能只解决“给钱”问题，还要解决人的意义、目标和能动性。经济支持重要，但人如何在 AI 比自己更强的世界里找到价值，是更深的问题。
他的政策建议包括：
- 建立更好的劳动力市场测量体系，追踪 AI 对岗位的真实影响。
- 用工资保险、留任税收激励、培训补助、劳动力匹配基础设施来减缓替代速度。
- 如果劳动需求长期下降，需要考虑长期收入支持，例如全民基本收入、资本收益税、面向全民的资本账户等。
他还提到数据中心和电价争议：AI 公司应承担电价上涨成本，但公众对数据中心的反感，更多是对 AI 经济冲击焦虑的出口。
第三块：AI 的正面收益也会被旧监管卡住
第三部分谈科学创新，尤其是生物医学。
这里他的观点和第一部分有点反向。
对 AI 本身，他担心监管不够快；对 AI 加速出来的下游科技，他担心监管太慢、太旧，接不住创新速度。
以药物研发为例，AI 可能带来这些变化：
- 大幅增加进入监管管线的新药候选数量。
- 提高药物效果和安全性。
- 开发过去无法治疗疾病的候选药物。
- 快速创造新的治疗形态。
但现有药品监管流程建立在一个比较悲观的假设上：候选药物多数无效，即使有效也可能有严重安全问题。所以 FDA、EMA 这类机构通常需要多年时间完成审批。
如果 AI 让候选药物大量涌入，旧流程可能被堵死。
他的建议不是降低安全标准，而是提前建立新标准：哪些临床步骤可以由 AI 模拟或分析替代，什么条件下接受 AI-based PD/PK 建模、毒理预测、剂量选择、 biomarker 验证、synthetic control arms、surrogate endpoints。
这部分很关键。它提醒我们，AI 政策不只是“怎么限制 AI”，也包括“怎么让 AI 带来的好处不要被旧制度拖慢”。
第四块：国家权力和公民自由会被 AI 重新放大
第四部分谈国家、公民自由和权力制衡。
Dario 的担忧是：强 AI 落在错误的人手里，可能成为极权工具。已有的法律和宪法保护机制，未必能应对 AI 带来的突然权力跃迁。
他举了几类风险：
- 完全自动化武器可能服从非法命令，让政府绕过人类军官的专业约束。
- 面向监控的 AI 可以大规模分析公开和私有数据，推断公民生活的最深层细节。
- 政府或公司都可能借 AI 获得过度权力，甚至绕过民主监督。
他的政策建议包括：
- 为完全自主武器建立可靠问责规则，确保它们响应法院命令、立法和高级人类监督，而不是盲目服从命令。
- 禁止在国内执法中使用完全自主武器。
- 关闭数据经纪商和大规模数据购买漏洞，防止私人公司数据被用于国内监控和执法。
- 当政府对个人或组织采取不利行动时，被影响者应有权使用至少同等能力的 AI 建议，避免政府单方面获得 AI 优势。
这一部分的底层逻辑是：AI 不只改变生产力，也改变权力分配。政策如果只看经济和安全，会漏掉自由和制度约束。
第五块：民主国家要围绕 AI 重新结盟
第五部分谈地缘政治。
Dario 明确反对把 AI 只看成贸易政策工具。他认为 AI 更像核武器级别的战略变量，甚至可能更重要。
如果强 AI 真能接近“数据中心里的天才国家”，它就会成为国家军事和经济能力的主要来源。一个拥有强 AI 的国家，面对落后三年的国家，可能会形成碾压式优势。
因此，他主张民主国家建立一个围绕共同价值构建 AI 的全球联盟。
这个联盟要做几件事：
- 管理 AI 供应链，在可信联盟内部共享芯片和半导体制造设备，同时限制对手获取。
- 国际协调生物、网络安全和自治风险监管标准。
- 共享 AI 经济收益和有益部署经验，帮助发展中国家获得好处。
- 在网络防御、无人机、制造、保密算力、AI 驱动研发和情报分析上互相防御。
- 拒绝 AI 驱动的高科技极权压制。
- 在就业和宏观经济冲击上协调政策。
他希望这个联盟先从价值接近的民主国家开始，再逐步吸引更多国家加入。理想状态是全世界最终都加入；如果做不到，至少让民主国家处在最有利位置，遏制和超越仍坚持压制路线的政权。
这篇文章最有价值的地方
我觉得这篇文章最值得读的，不是某一条具体政策，而是它把 AI 政策问题分成了五个层面：
- 模型本身怎么管。
- 劳动力和财富分配怎么管。
- AI 加速出的科学成果怎么放行。
- 国家和公司权力怎么约束。
- 民主国家怎么在全球竞争中组织联盟。
这比单纯讨论“开源还是闭源”“监管还是不监管”更接近真实问题。
AI 的麻烦不在于它只冲击一个部门。它同时像软件、像基础设施、像军工能力、像科研加速器、像劳动力替代器、像国家权力放大器。
所以政策也不能只靠一条线。
也要看到它的立场
这篇文章来自 Anthropic CEO，所以它当然不是中立学术论文。
它会天然强调前沿模型风险，强调发布前测试和政府介入，也会强调民主国家联盟与供应链控制。这些立场和 Anthropic 的产品位置、公司治理、美国公司身份都有关系。
但这不意味着文章不值得读。
相反，它的价值正来自这种位置：一家前沿模型公司正在公开说，AI 已经不是“市场自己会消化”的普通技术，而是需要政策系统重新提速的指数级变量。
你可以不同意他的具体方案，但很难忽视这个判断：如果 AI 能力继续快速提升，慢政策遇到快技术，迟早会出问题。
小结
Policy on the AI Exponential 这篇文章的核心，是把 AI 政策从“有没有必要监管”推进到“政策系统如何追上指数曲线”。
Dario Amodei 的答案是：前沿模型要发布前测试，就业冲击要提前测量和缓冲，生物医学等正向应用要改革监管通道，公民自由要防止 AI 放大国家和公司权力，民主国家要围绕供应链、安全标准和价值观形成联盟。
这套方案未必完整，也一定会有争议。
但它提出了一个越来越难绕开的问题：当 AI 用一年走完过去技术十年的路时，政策还能不能继续按过去的速度走？
参考资料：