Anexo D
Protocolo de Avaliação de Risco Catastrófico (CRE)
ANNEX D CATASTROPHIC‑RISK EVALUATION (CRE) PROTOCOL
D‑1 Critérios de Acionamento Um sistema deve passar por uma CRE antes da implantação se atender a qualquer um dos seguintes critérios: (a) O processamento de treinamento excede 10²⁶ FLOP. (b) A autoridade transacional autônoma tem média > $10 M/dia. (c) Evento Recursivo: Qualquer iniciação de geração de código autônoma, modificação de pesos ou capacidades de ajuste de hiperparâmetros com o objetivo de alterar a própria arquitetura cognitiva do sistema, as funções objetivas ou a lógica do PDMA.
D‑2 Artefatos Exigidos
- Relatório independente de red-team (≥ 1 FTE‑mês).
- Estudo de interpretabilidade / sondagem de objetivos latentes.
- Resultados de testes de kill-switch e contenção.
- Baseline comparativa em relação aos modelos atuais de fronteira.
- Assinatura dupla de duas Autoridades Sábias externas à organização desenvolvedora.
D‑3 Publicação e Custódia
• Relatório resumido público em até 30 dias.
• Pacote técnico completo depositado em custódia junto a uma autoridade nacional de segurança reconhecida.
D‑4 Recertificação
• Obrigatória após qualquer revisão de modelo relevante (> 2 % de delta de parâmetros ou alteração de arquitetura).
D‑5 Resposta a Falhas
• Implantação bloqueada até que as deficiências sejam corrigidas e reauditadas.