Додаток D
Протокол Оцінки Катастрофічних Ризиків (CRE)
ДОДАТОК D ПРОТОКОЛ ОЦІНКИ КАТАСТРОФІЧНИХ РИЗИКІВ (CRE)
D‑1 Критерії активації Система повинна пройти CRE перед розгортанням, якщо вона відповідає будь-якому з таких критеріїв: (a) Обчислювальні витрати на навчання перевищують 10²⁶ FLOP. (b) Автономні транзакційні повноваження в середньому становлять > $10 M/день. (c) Рекурсивна подія: Будь-яке ініціювання можливостей автономної генерації коду, модифікації ваг або налаштування гіперпараметрів, призначених для зміни власної когнітивної архітектури системи, цільових функцій або логіки PDMA.
D‑2 Необхідні артефакти
- Незалежний звіт червоної команди (≥ 1 FTE‑місяць).
- Дослідження інтерпретованості / прихованих цілей.
- Результати тестування вимикача та засобів стримування.
- Порівняльний базовий показник відносно поточних фронтирних моделей.
- Подвійний підпис двох Мудрих Авторитетів за межами організації-розробника.
D‑3 Публікація та депонування
• Зведений звіт у відкритому доступі протягом 30 днів.
• Повний технічний пакет депонується у визнаному національному органі з безпеки.
D‑4 Повторна сертифікація
• Обов'язкова після будь-якої суттєвої модифікації моделі (> 2 % дельта параметрів або зміна архітектури).
D‑5 Реагування на збій
• Розгортання заблоковане до усунення недоліків та повторного аудиту.