Dario Amodei 在 2026 年 6 月發了一篇很長的政策文章：Policy on the AI Exponential。
這篇文章不是單純談 AI 安全，也不是單純談監管。它真正想說的是一個時間差：AI 能力在按指數曲線推進，而政策系統仍然按傳統速度移動。
用他的比喻說，AI 像《魔戒》裡急著求援的哈比人，政治制度像行動緩慢的樹人。問題不是樹人完全不醒，而是醒來太慢。等立法、監管、國際協調慢慢形成時，AI 可能已經從「有趣的工具」變成「資料中心裡的一整個天才國家」。
這篇文章值得看，不是因為它給出了所有答案，而是因為它把 Anthropic 現在最關心的政策議題攤開了：模型發布前測試、就業衝擊、科學監管、公民自由、民主國家聯盟。
文章的核心判斷
Dario 的主線很清楚：過去幾年，AI 風險還不夠具體，所以最現實的政策是透明度、資訊揭露、晶片出口管制、勞動力影響資料收集。
這些政策的作用，是給未來反應留出選擇權。
但他認為，現在情況已經變了。前沿模型在網路安全等領域的能力，已經足以讓 AI 成為國家戰略層面的工具。未來還可能出現生物風險、自治系統失控、自動化研發加速風險。
所以政策不能只停留在「先看看」。他主張進入更強約束階段：對超過一定算力門檻的前沿模型，做強制第三方測試；如果模型在特定風險領域不可接受，政府應有權阻止或延後部署。
這不是把 AI 當普通軟體管，而是更接近飛機、藥品、汽車這類高影響技術：能帶來巨大收益，但設計或營運不當也會造成大規模傷害。
第一塊：監管要從透明度走向發布前測試
文章第一部分談監管和公共安全。
他承認，過早監管很容易寫錯。2023 到 2024 年，風險方向能看見，但風險形態、測試方法、緩解手段還沒完全清楚。如果那時立法，很可能會製造大量低價值合規要求，卻錯過真正重要的風險。
所以 Anthropic 當時支持透明度立法：讓模型開發者揭露安全流程、測試方式和重大安全事件。
現在他認為，僅有透明度不夠了。
他提出的方向包括：
- 超過算力門檻的模型，必須接受合格第三方在四類風險上的測試：網路安全、生物武器、AI 系統失控、可能加速這些風險的自動化研發。
- 如果第三方評估認為模型風險不可接受，政府應有權阻止或震懾部署。
- 測試可以由類似 FAA 的政府機構執行，也可以由政府授權和監督的私營評估機構執行。
- 開發前沿模型的公司必須保護模型權重，定期紅隊測試和滲透測試，並與政府合作防禦主要威脅行為體。
- 四類關鍵風險中的安全事件必須及時報告。
這裡的關鍵詞是「具體風險」。他並不是主張政府無限制接管 AI，而是把權力範圍限定在四類最嚴重風險上，並要求防止政治偏袒和任意裁量。
第二塊：就業問題不是 PR 問題
第二部分談宏觀經濟和稅收政策。
Dario 的判斷有兩面。
一面是強樂觀：如果 AI 能遠超人類完成大多數認知任務，它可能透過科學、技術和營運效率提升，帶來極快的經濟成長。AI 還能幫助製造更強的 AI，這會進一步放大成長。
另一面是強擔憂：同樣因為 AI 能替代廣泛認知能力，它也可能比過去技術更快、更深地衝擊勞動力市場。
他說得很直接：我們可能進入一個「超成長、超不平等」的世界。屆時最大挑戰不再是如何刺激成長，而是如何讓所有人分享成長收益。
這部分有兩個值得注意的表述。
第一，他強調持久性失業不是目標，而是需要盡量避免的風險。Anthropic 不是希望企業用 AI 裁員，而是希望企業找到新收入、新用例，讓現有員工做更多事情。
第二，就業政策不能只解決「給錢」問題，還要解決人的意義、目標和能動性。經濟支持重要，但人如何在 AI 比自己更強的世界裡找到價值，是更深的問題。
他的政策建議包括：
- 建立更好的勞動力市場測量體系，追蹤 AI 對職位的真實影響。
- 用工資保險、留任稅收激勵、培訓補助、勞動力匹配基礎設施來減緩替代速度。
- 如果勞動需求長期下降，需要考慮長期收入支持，例如全民基本收入、資本收益稅、面向全民的資本帳戶等。
他還提到資料中心和電價爭議：AI 公司應承擔電價上漲成本，但公眾對資料中心的反感，更多是對 AI 經濟衝擊焦慮的出口。
第三塊：AI 的正面收益也會被舊監管卡住
第三部分談科學創新，尤其是生物醫學。
這裡他的觀點和第一部分有點反向。
對 AI 本身，他擔心監管不夠快；對 AI 加速出來的下游科技，他擔心監管太慢、太舊，接不住創新速度。
以藥物研發為例，AI 可能帶來這些變化：
- 大幅增加進入監管管線的新藥候選數量。
- 提高藥物效果和安全性。
- 開發過去無法治療疾病的候選藥物。
- 快速創造新的治療形態。
但現有藥品監管流程建立在一個比較悲觀的假設上：候選藥物多數無效，即使有效也可能有嚴重安全問題。所以 FDA、EMA 這類機構通常需要多年時間完成審批。
如果 AI 讓候選藥物大量湧入，舊流程可能被堵死。
他的建議不是降低安全標準，而是提前建立新標準：哪些臨床步驟可以由 AI 模擬或分析替代，什麼條件下接受 AI-based PD/PK 建模、毒理預測、劑量選擇、biomarker 驗證、synthetic control arms、surrogate endpoints。
這部分很關鍵。它提醒我們，AI 政策不只是「怎麼限制 AI」，也包括「怎麼讓 AI 帶來的好處不要被舊制度拖慢」。
第四塊：國家權力和公民自由會被 AI 重新放大
第四部分談國家、公民自由和權力制衡。
Dario 的擔憂是：強 AI 落在錯誤的人手裡，可能成為極權工具。已有的法律和憲法保護機制，未必能應對 AI 帶來的突然權力躍遷。
他舉了幾類風險：
- 完全自動化武器可能服從非法命令，讓政府繞過人類軍官的專業約束。
- 面向監控的 AI 可以大規模分析公開和私有資料，推斷公民生活的最深層細節。
- 政府或公司都可能藉 AI 獲得過度權力，甚至繞過民主監督。
他的政策建議包括：
- 為完全自主武器建立可靠問責規則，確保它們回應法院命令、立法和高級人類監督，而不是盲目服從命令。
- 禁止在國內執法中使用完全自主武器。
- 關閉資料經紀商和大規模資料購買漏洞，防止私人公司資料被用於國內監控和執法。
- 當政府對個人或組織採取不利行動時，被影響者應有權使用至少同等能力的 AI 建議，避免政府單方面獲得 AI 優勢。
這一部分的底層邏輯是：AI 不只改變生產力，也改變權力分配。政策如果只看經濟和安全，會漏掉自由和制度約束。
第五塊：民主國家要圍繞 AI 重新結盟
第五部分談地緣政治。
Dario 明確反對把 AI 只看成貿易政策工具。他認為 AI 更像核武器級別的戰略變數，甚至可能更重要。
如果強 AI 真能接近「資料中心裡的天才國家」，它就會成為國家軍事和經濟能力的主要來源。一個擁有強 AI 的國家，面對落後三年的國家，可能會形成碾壓式優勢。
因此，他主張民主國家建立一個圍繞共同價值構建 AI 的全球聯盟。
這個聯盟要做幾件事：
- 管理 AI 供應鏈，在可信聯盟內部共享晶片和半導體製造設備，同時限制對手取得。
- 國際協調生物、網路安全和自治風險監管標準。
- 共享 AI 經濟收益和有益部署經驗，幫助發展中國家獲得好處。
- 在網路防禦、無人機、製造、保密算力、AI 驅動研發和情報分析上互相防禦。
- 拒絕 AI 驅動的高科技極權壓制。
- 在就業和宏觀經濟衝擊上協調政策。
他希望這個聯盟先從價值接近的民主國家開始，再逐步吸引更多國家加入。理想狀態是全世界最終都加入；如果做不到，至少讓民主國家處在最有利位置，遏制和超越仍堅持壓制路線的政權。
這篇文章最有價值的地方
我覺得這篇文章最值得讀的，不是某一條具體政策，而是它把 AI 政策問題分成了五個層面：
- 模型本身怎麼管。
- 勞動力和財富分配怎麼管。
- AI 加速出的科學成果怎麼放行。
- 國家和公司權力怎麼約束。
- 民主國家怎麼在全球競爭中組織聯盟。
這比單純討論「開源還是閉源」「監管還是不監管」更接近真實問題。
AI 的麻煩不在於它只衝擊一個部門。它同時像軟體、像基礎設施、像軍工能力、像科研加速器、像勞動力替代器、像國家權力放大器。
所以政策也不能只靠一條線。
也要看到它的立場
這篇文章來自 Anthropic CEO，所以它當然不是中立學術論文。
它會天然強調前沿模型風險，強調發布前測試和政府介入，也會強調民主國家聯盟與供應鏈控制。這些立場和 Anthropic 的產品位置、公司治理、美國公司身份都有關係。
但這不意味著文章不值得讀。
相反，它的價值正來自這種位置：一家前沿模型公司正在公開說，AI 已經不是「市場自己會消化」的普通技術，而是需要政策系統重新提速的指數級變數。
你可以不同意他的具體方案，但很難忽視這個判斷：如果 AI 能力繼續快速提升，慢政策遇到快技術，遲早會出問題。
小結
Policy on the AI Exponential 這篇文章的核心，是把 AI 政策從「有沒有必要監管」推進到「政策系統如何追上指數曲線」。
Dario Amodei 的答案是：前沿模型要發布前測試，就業衝擊要提前測量和緩衝，生物醫學等正向應用要改革監管通道，公民自由要防止 AI 放大國家和公司權力，民主國家要圍繞供應鏈、安全標準和價值觀形成聯盟。
這套方案未必完整，也一定會有爭議。
但它提出了一個越來越難繞開的問題：當 AI 用一年走完過去技術十年的路時，政策還能不能繼續按過去的速度走？
參考資料：