Allegato D
Protocollo di Valutazione del Rischio Catastrofico (CRE)
ALLEGATO D PROTOCOLLO DI VALUTAZIONE DEL RISCHIO CATASTROFICO (CRE)
D‑1 Criteri di Attivazione Un sistema deve superare un CRE prima del dispiegamento se soddisfa uno qualsiasi dei seguenti criteri: (a) Il calcolo di addestramento supera 10²⁶ FLOP. (b) L'autorità transazionale autonoma è in media > $10 M/giorno. (c) Evento Ricorsivo: Qualsiasi avvio di generazione autonoma di codice, modifica dei pesi o capacità di regolazione degli iper‑parametri intese ad alterare la propria architettura cognitiva, le funzioni obiettivo o la logica PDMA del sistema.
D‑2 Artefatti Richiesti
- Rapporto indipendente di red‑team (≥ 1 FTE‑mese).
- Studio di interpretabilità / sonde per obiettivi latenti.
- Risultati dei test del Kill‑switch e del contenimento.
- Baseline comparativa rispetto ai modelli frontier attuali.
- Doppia firma di due Wise Authority esterni all'organizzazione sviluppatrice.
D‑3 Pubblicazione ed Escrow
• Rapporto sommario pubblico entro 30 giorni.
• Pacchetto tecnico completo messo in escrow presso un'autorità nazionale di sicurezza riconosciuta.
D‑4 Ri‑Certificazione
• Obbligatoria dopo qualsiasi revisione importante del modello (> 2 % di delta dei parametri o cambiamento architetturale).
D‑5 Risposta al Fallimento
• Dispiegamento bloccato fino a quando le deficienze non sono state remediate e ri-verificate.