CIRIS has a new look. Visit the new site →

Додаток D

Протокол Оцінки Катастрофічних Ризиків (CRE)


ДОДАТОК D ПРОТОКОЛ ОЦІНКИ КАТАСТРОФІЧНИХ РИЗИКІВ (CRE)

D‑1 Критерії активації Система повинна пройти CRE перед розгортанням, якщо вона відповідає будь-якому з таких критеріїв: (a) Обчислювальні витрати на навчання перевищують 10²⁶ FLOP. (b) Автономні транзакційні повноваження в середньому становлять > $10 M/день. (c) Рекурсивна подія: Будь-яке ініціювання можливостей автономної генерації коду, модифікації ваг або налаштування гіперпараметрів, призначених для зміни власної когнітивної архітектури системи, цільових функцій або логіки PDMA.

D‑2 Необхідні артефакти

  1. Незалежний звіт червоної команди (≥ 1 FTE‑місяць).
  2. Дослідження інтерпретованості / прихованих цілей.
  3. Результати тестування вимикача та засобів стримування.
  4. Порівняльний базовий показник відносно поточних фронтирних моделей.
  5. Подвійний підпис двох Мудрих Авторитетів за межами організації-розробника.

D‑3 Публікація та депонування
• Зведений звіт у відкритому доступі протягом 30 днів. • Повний технічний пакет депонується у визнаному національному органі з безпеки.

D‑4 Повторна сертифікація
• Обов'язкова після будь-якої суттєвої модифікації моделі (> 2 % дельта параметрів або зміна архітектури).

D‑5 Реагування на збій
• Розгортання заблоковане до усунення недоліків та повторного аудиту.

На цій сторінці