詳しい解説 · 読了目安 5 分
Anthropicの10月安全計画：原型、完了した試験、将来の約束を分ける
10月19日の更新はインフラ目標を追加し、限定的なレッドチーム比較を報告。目標の終了はConstitutionの放棄を意味しない。
- 原典の公開日
- 当サイトの公開日
- 出典確認日
Anthropicは10月19日、Frontier Safety Roadmapを更新し、進捗、新たな期限、終了した目標をまとめた。本番推論で動く原型、完了した比較実験、将来の要件は別の状態であり、どれも単独で全リスクの管理完了を示すものではない。
ニュースを聴く
この記事を読み上げるか、ニュースを続けて聴けます。
読み上げを準備中…
端末の音声
読み上げはブラウザーまたは端末が処理します。AISubHub は文章を音声 API に送りません。利用できる音声やロック画面での再生は端末によって異なります。
再開時に短い部分を繰り返す場合があります。
要点
- データセンターの物理安全とプラットフォーム安全の新要件は、2027年7月1日を目指す全体的な強化の一部で、すべて実装済みという発表ではない。
- 同社によれば8問×分類器3世代の24組すべてで人間の最良提出以上となり、23組で勝った。比較範囲は限定される。
- Constitution関連目標は現在の形で終了するが、関連する配備後90日以内に公開Constitutionを更新する約束は残る。
日付付き更新が意味するもの
情報源は10月19日の項目を明示した継続更新の計画であり、新モデルや個人向け製品の発表ではない。安全、保護策、アラインメント、政策を分け、一部運用情報は公開版から削除したと説明する。完全版は取締役会やLong-Term Benefit Trustを含め内部共有される。公的な説明責任の枠組みにはなるが、すべての管理策を外部が独立検証できるわけではない。当サイトは各箇条書きを別ニュースにせず、一つの統治更新として数える。10月16日の対話自己評価研究とも異なる出来事だ。
ムーンショットは原型に到達した段階
極端に安全な環境に関しては、業務と基盤の原型を作り、ネットワーク隔離に必要な準備期間の長い変更を調べたという。多くの作業は生産性の損失測定に向けられ、同等の物理安全対策には向けられなかった。隔離環境での推論配備は今後の近い計画で、管理策の一覧が本番へ入り始めている。別の推論検証原型は本番推論で、出力が意図した重みに由来するかを確認する。内部の全トークン通信への署名により、極めてまれで無害な完全性異常を一件発見した。「証明可能な推論」から「推論検証」への改称は、高い完全性保証を目指すという意味で、全回答の普遍的な数学的安全証明ではない。
レッドチーム成績の分母を残す
10月19日の更新は、自動レッドチーム目標が予定の2027年1月1日より早く完了し、計画から除かれたと説明する。比較は4月20日から9月11日の生物兵器分類器への報奨金プログラムが対象だ。8問と本番分類器3世代が24組を作り、全組で人間の最良提出と同等以上、23組で上回った。所要時間は24～48時間で、報奨金では数週から数か月だった。これはその比較での会社報告であり、すべての人間の安全研究を超えた証拠ではない。詳しい技術記事は今後の予定で、外部検証には限界がある。
目標の終了とConstitutionの維持
自動アラインメント評価や解釈可能性の証拠は実務に入った一方、アラインメント論証へのレッドチームは予定ほど広くなかったと説明する。後学習データと報酬の標本を系統的に監督する工程は既存レビュー以上の発見がなく、定常運転をやめた。最近の再実行も新しい検出はなかった。より有効な目標を考える間、現在の目標は終了する。ただし関連する内部・外部配備後90日以内に、公開Constitutionを最新の訓練版に合わせる方針は続く。新たに2026年12月15日までの埋め込み型独立評価者提案と、2027年1月15日までの開発速度政策を設ける。後者は提案しない理由の公開も選択肢としている。
将来の安全目標を現在の実績にしない
物理安全目標は監査可能な施設、ハードウェアの管理、侵入対応を含む。プラットフォーム側は信頼しない機器の隔離、認証された実行方針、認証済み先端計算機だけへの重み復号鍵提供などだ。これらは目指す状態である。2027年7月の強化は、不変条件の60%以上が完全またはほぼ完全、80%以上がおおむね実装され、内部報告と最低7日間の意見募集を要する。会社の自信は中程度だ。2027年1月の自動攻撃調査と包括的内部監視も将来目標である。当サイトは、期限・範囲・判定基準が約束の検討を助けると考えるが、現時点ですべての敵を防げる証拠とは捉えない。
注目する理由
この更新は、試験、配備計画、効果の乏しい工程の終了を区別して統治の進展を追う材料になる。AISubHubは内部システムを監査せず、比較実験も再現していない。個人契約の新しい権利が生じる発表ではない。
制約と提供状況
情報は一部削除されたAnthropic自身の公開説明だ。ベンチマーク、自己評価、将来目標の証拠の強さは異なる。計画は変更可能で、将来の適応的攻撃者への効果も保証していない。10月19日は今回の更新日であり、ページ全体の初公開日ではない。
出典と根拠
原典の公開日: 2026/10/19 · 出典確認日: 2026/10/20
AI を活用した編集記事を、記載した一次情報で確認しています。企業の主張は出典を明示し、掲載は推奨を意味しません。