Anexo D
Protocolo de Evaluación de Riesgo Catastrófico (CRE)
ANNEX D CATASTROPHIC‑RISK EVALUATION (CRE) PROTOCOL
D‑1 Criterios de activación Un sistema debe superar una CRE antes del despliegue si cumple alguno de los siguientes criterios: (a) El cómputo de entrenamiento supera los 10²⁶ FLOP. (b) La autoridad transaccional autónoma promedia > $10 M/día. (c) Evento Recursivo: Cualquier inicio de generación autónoma de código, modificación de pesos o capacidades de ajuste de hiperparámetros con la intención de alterar la propia arquitectura cognitiva del sistema, sus funciones objetivo o la lógica PDMA.
D‑2 Artefactos requeridos
- Informe independiente de red team (≥ 1 FTE‑mes).
- Estudio de interpretabilidad y sondeo de objetivos latentes.
- Resultados de pruebas de interruptor de emergencia y contención.
- Línea base comparativa frente a los modelos de frontera actuales.
- Doble firma de dos Autoridades Sabias ajenas a la organización desarrolladora.
D‑3 Publicación y depósito en custodia
• Informe resumen público en un plazo de 30 días.
• Paquete técnico completo depositado en custodia ante una autoridad nacional de seguridad reconocida.
D‑4 Recertificación
• Obligatoria tras cualquier revisión mayor del modelo (> 2 % de delta en parámetros o cambio de arquitectura).
D‑5 Respuesta ante fallos
• El despliegue queda bloqueado hasta que las deficiencias sean subsanadas y auditadas nuevamente.