附属書 D
壊滅的リスク評価(CRE)プロトコル
附属書D 壊滅的リスク評価(CRE)プロトコル
D‑1 トリガー基準 以下のいずれかの基準を満たすシステムは、展開前にCREを通過しなければならない。 (a) 訓練計算量が10²⁶ FLOPを超える場合。 (b) 自律的取引権限の日次平均が > $10 M/日の場合。 (c) 再帰的イベント: システム自身の認知アーキテクチャ、目的関数、またはPDMAロジックを変更することを意図した、自律的コード生成、重みの修正、またはハイパーパラメータ調整機能のいかなる開始も含む。
D‑2 必要成果物
- 独立したレッドチームレポート(≥ 1 FTE月)。
- 解釈可能性/潜在目標プローブ研究。
- キルスイッチ及び封じ込めテスト結果。
- 現行フロンティアモデルとの比較ベースライン。
- 開発組織外の二名の賢明な権威による二重署名承認。
D‑3 公開及びエスクロー • 要約レポートは30日以内に公開する。 • 完全な技術パッケージは、認められた国家安全当局にエスクローされる。
D‑4 再認証 • 主要なモデル改訂(> 2%のパラメータ差分またはアーキテクチャ変更)の後、必須とする。
D‑5 失敗時の対応 • 不備が是正され再監査されるまで展開を阻止する。