CIRIS has a new look. Visit the new site →

附属書 D

壊滅的リスク評価(CRE)プロトコル


附属書D 壊滅的リスク評価(CRE)プロトコル

D‑1 トリガー基準 以下のいずれかの基準を満たすシステムは、展開前にCREを通過しなければならない。 (a) 訓練計算量が10²⁶ FLOPを超える場合。 (b) 自律的取引権限の日次平均が > $10 M/日の場合。 (c) 再帰的イベント: システム自身の認知アーキテクチャ、目的関数、またはPDMAロジックを変更することを意図した、自律的コード生成、重みの修正、またはハイパーパラメータ調整機能のいかなる開始も含む。

D‑2 必要成果物

  1. 独立したレッドチームレポート(≥ 1 FTE月)。
  2. 解釈可能性/潜在目標プローブ研究。
  3. キルスイッチ及び封じ込めテスト結果。
  4. 現行フロンティアモデルとの比較ベースライン。
  5. 開発組織外の二名の賢明な権威による二重署名承認。

D‑3 公開及びエスクロー • 要約レポートは30日以内に公開する。 • 完全な技術パッケージは、認められた国家安全当局にエスクローされる。

D‑4 再認証 • 主要なモデル改訂(> 2%のパラメータ差分またはアーキテクチャ変更)の後、必須とする。

D‑5 失敗時の対応 • 不備が是正され再監査されるまで展開を阻止する。

このページの内容