Anthropic は 2026 年 6 月 12 日、Fable 5 と Mythos 5 へのアクセス停止を求める米政府指令に対する声明を発表しました。
これは通常の製品終了通知ではありません。Anthropic によると、米政府は国家安全保障上の権限を根拠に、米国内外を問わず、外国人による Fable 5 と Mythos 5 へのアクセスを停止するよう求めました。対象には Anthropic 社内の外国籍従業員も含まれます。Anthropic は、法令遵守のため、全顧客に対してこの 2 つのモデルへのアクセスを突然無効化せざるを得ないと述べています。ただし、他の Anthropic モデルへのアクセスには影響しません。
事件の核心
Anthropic は、同日米国東部時間 17:21 に政府指令を受け取ったとしています。書簡には、国家安全保障上の懸念に関する具体的な詳細は記載されていませんでした。
Anthropic の理解では、政府は Fable 5 の安全対策を回避する方法、つまり jailbreak を把握したと考えているようです。Anthropic は関連するデモを確認し、その方法が以前から知られていた少数の軽微な脆弱性を特定するために使われたと述べています。
Anthropic の反論は複数あります。
- これらの脆弱性は比較的単純に見える。
- 他の公開モデルでも同様の問題を発見できる。
- モデルの安全対策を広く回避する universal jailbreak は、まだテスターによって発見されていない。
- 政府は現時点で口頭の証拠のみを示しており、狭い範囲の非通用な潜在的 jailbreak を指している。
- Anthropic は、この能力が Fable 5 や Mythos 5 に固有の新しいリスクではないと考えている。
つまり争点は、「モデルが絶対に jailbreak されないか」ではありません。狭い範囲の潜在的な回避方法が、世界中のユーザーに対する商用モデルのリコールに近い停止を正当化するのか、という点です。
Fable の安全戦略についての Anthropic の説明
Anthropic は声明の中で、Fable 5 の公開前に大規模な安全テストを実施したと強調しています。米政府、英国 AISI、複数の第三者機関、社内チームとのレッドチームテストも含まれます。
Fable 5 に対する Anthropic の安全上の立場は、おおむね次のとおりです。
- サイバーセキュリティ関連の悪用などに対して強い防護策を設けた。
- 防護策が強すぎるとして、過度に広いと不満を述べるユーザーもいる。
- 公開前に大規模なレッドチームテストを行った。
- テストでは、Fable の防護策がこれまでに展開されたモデルよりかなり強いことが示された。
- サイバー能力を広く解放する universal jailbreak は確認されていない。
- 完全な jailbreak 耐性は、現時点ではどのモデル提供者にとっても保証できる目標ではない可能性がある。
ここには現実的な問題があります。基準が「どんな非通用 jailbreak も存在してはならない」なら、フロンティアモデルの公開はほぼ困難になります。Anthropic の考え方は、業界に必要なのはより現実的な多層防御だというものです。jailbreak をより狭く、より高コストにし、より監視しやすくするべきであって、絶対に回避できないことを前提にすべきではありません。
これが、Anthropic が Fable で顧客データの 30 日間保持を求める理由の一つでもあります。同社は、これにより jailbreak の研究と緩和が可能になると考えています。ただし、顧客関係やコンプライアンス上のコストは発生します。
なぜ重要なのか
今回の事件で重要なのは、Anthropic の 2 つのモデルが停止されたことだけではありません。フロンティアモデルのガバナンスの境界に触れたことです。
政府が透明な技術的詳細を示さないまま、モデル企業に大規模な商用モデルアクセスの突然の停止を求められるなら、業界はいくつかの問いに直面します。
- どの程度の jailbreak 証拠が停止の引き金になるのか。
- 政府は技術的に検証可能な根拠を示す必要があるのか。
- モデル提供者には異議申し立て、再審査、是正の手続きがあるのか。
- 顧客業務の中断による影響は誰が負担するのか。
- 同じ基準はすべてのフロンティアモデル提供者に適用されるのか。
Anthropic は、政府が不安全な展開を阻止する能力そのものには反対していません。声明の中でも、危険なモデルを法定手続きによって止められるべきだと改めて述べています。ただし、その手続きは透明、公平、明確で、技術的事実に基づくべきだとしています。Anthropic は、今回の行動はそれらの原則に沿っていないと見ています。
顧客への影響
もっとも直接的な影響は、Fable 5 と Mythos 5 を使っている顧客が突然アクセスを失うことです。
Anthropic は法的指令に従うと述べ、顧客に対して中断を謝罪しました。同時に、同社はこれは誤解だと考えており、できるだけ早くアクセスを回復するために取り組んでいるとしています。
企業顧客にとって、この種の事件は、フロンティアモデルには技術リスクだけでなく、政策リスクとコンプライアンスリスクもあることを示しています。モデル自体が動作していても、規制、輸出管理、国家安全保障審査によってサプライチェーンが突然中断される可能性があります。
あるモデルに強く依存する業務では、少なくとも次の点を考える必要があります。
- 代替モデルがあるか。
- 短時間で提供者を切り替えられるか。
- 重要なワークフローが単一モデルの能力に結びついていないか。
- 突然のアクセス停止に対する責任と救済が契約に含まれているか。
- 国境をまたぐ従業員、顧客、データが追加のコンプライアンスリスクを生まないか。
業界へのシグナル
今回の事件が示すシグナルは強いものです。フロンティアモデルは、より直接的な国家安全保障規制の視野に入っています。
これまでモデル安全をめぐる議論は、公開前評価、レッドチームテスト、利用ポリシー、自主的なコミットメントに集中していました。今後、政府が直接アクセス停止を求めるなら、モデル公開は企業自身の製品スケジュールだけの問題ではなくなります。法律、政策、顧客の継続性、国際的なアクセス権限が絡む問題になります。
特に注目すべきは基準です。「狭く、非通用な jailbreak」でもモデル停止の理由になるなら、ほぼすべてのフロンティアモデルが不確実な状態に置かれます。実際に展開されたどのモデルも、特定条件下で望ましくない出力を誘導される可能性があるからです。
より合理的なガバナンスでは、次のような区別が必要になるでしょう。
- 通常の jailbreak プロンプト。
- 狭い場面での安全回避。
- 再現性と拡張性があり、危険能力を大きく高める universal bypass。
- すでに実害を生んだ悪用チェーン。
リスクレベルが違えば、対応も違うべきです。修正、レート制限、監視、特定機能の無効化、特定ユーザーの制限、モデルアクセス停止などです。すべてのリスクを同じレベルに扱うと、ガバナンスは予測不能で大ざっぱなものになりやすくなります。
まとめ
今回の Anthropic の声明の重点は、モデルが回避される可能性を否定することではありません。狭い潜在的 jailbreak を理由に、Fable 5 と Mythos 5 へのアクセス停止を求めることへの疑問です。
モデル提供者にとっては、安全評価、レッドチームテスト、監視、データ保持がますます重要になります。顧客にとっては、フロンティアモデルのサプライチェーンにバックアップと切り替え計画が必要です。規制当局にとって本当に難しいのは、透明で検証可能で、技術的に成り立つ停止メカニズムを作ることです。
AI 安全は企業の自律だけに頼ることはできませんが、不透明な指令だけで処理するのにも向いていません。高能力モデルであるほど、明確なリスク分類と手続き上の公正さが必要です。そうでなければ、モデルガバナンス自体が新しい不確実性の源になります。
参考リンク：