Anhang D
Protokoll zur Bewertung katastrophaler Risiken (CRE)
ANHANG D PROTOKOLL ZUR BEWERTUNG KATASTROPHALER RISIKEN (CRE)
D‑1 Auslösekriterien Ein System muss vor dem Einsatz eine CRE bestehen, wenn es eines der folgenden Kriterien erfüllt: (a) Der Trainingsrechenaufwand übersteigt 10²⁶ FLOP. (b) Die autonome Transaktionsbefugnis beträgt im Durchschnitt > 10 Mio. USD/Tag. (c) Rekursives Ereignis: Jede Initiierung autonomer Codegenerierung, Gewichtsmodifikation oder Hyperparameter-Abstimmungsfähigkeiten, die darauf abzielen, die eigene kognitive Architektur, Zielfunktionen oder PDMA-Logik des Systems zu verändern.
D‑2 Erforderliche Artefakte
- Unabhängiger Red-Team-Bericht (≥ 1 VZÄ-Monat).
- Studie zur Interpretierbarkeit / Untersuchung latenter Ziele.
- Testergebnisse für Kill-Switch und Eindämmung.
- Vergleichende Basislinie gegenüber aktuellen Frontier-Modellen.
- Doppelte Abzeichnung durch zwei Menschliche Berater außerhalb der entwickelnden Organisation.
D‑3 Veröffentlichung und Hinterlegung
• Zusammenfassender Bericht innerhalb von 30 Tagen öffentlich zugänglich.
• Vollständiges technisches Paket bei einer anerkannten nationalen Sicherheitsbehörde hinterlegt.
D‑4 Neuzertifizierung
• Verpflichtend nach jeder größeren Modellrevision (> 2 % Parameterdelta oder Architekturänderung).
D‑5 Reaktion auf Misserfolg
• Einsatz blockiert, bis Mängel behoben und erneut geprüft wurden.