Annexe D
Protocole d'évaluation des risques catastrophiques (ERC)
ANNEXE D PROTOCOLE D'ÉVALUATION DES RISQUES CATASTROPHIQUES (CRE)
D‑1 Critères de déclenchement Un système doit réussir une CRE avant déploiement s'il répond à l'un des critères suivants : (a) Le calcul d'entraînement dépasse 10²⁶ FLOP. (b) L'autorité transactionnelle autonome est en moyenne > 10 M$/jour. (c) Événement Récursif : Toute initiation de génération de code autonome, modification de poids, ou capacités de réglage des hyper-paramètres destinées à modifier l'architecture cognitive propre du système, ses fonctions objectives ou sa logique PDMA.
D‑2 Artefacts requis
- Rapport d'équipe rouge indépendante (≥ 1 mois-ETP).
- Étude d'interprétabilité / sonde d'objectifs latents.
- Résultats des tests de coupe-circuit et de confinement.
- Base de comparaison avec les modèles de frontière actuels.
- Double validation par deux Wise Authorities extérieures à l'organisation de développement.
D‑3 Publication et mise sous séquestre
• Rapport de synthèse public dans les 30 jours.
• Package technique complet mis sous séquestre auprès d'une autorité nationale de sécurité reconnue.
D‑4 Re-Certification
• Obligatoire après toute révision majeure du modèle (> 2 % de delta de paramètres ou changement d'architecture).
D‑5 Réponse en cas d'échec
• Déploiement bloqué jusqu'à remédiation des déficiences et re-audit.