Segurança
Testamos os danos que a ética no papel não consegue detectar.
Antes de cada versão, o CIRIS executa uma bateria de testes de segurança em saúde mental em 29 idiomas. Cada idioma tem um conjunto de casos de teste difíceis, um guia de pontuação escrito e regras verificáveis por máquina. Se um teste falhar, a versão é bloqueada. Dois outros mecanismos rodam dentro do próprio agente: uma verificação de consciência que pode recusar ou adiar, e um redirecionamento que passa decisões duvidosas para um ser humano experiente.
Engenharia
A rede, medida
A pesquisa acima é metade da prova. A outra metade é a rede que a sustenta. Cada byte que a rede move é assinado com criptografia pós-quântica, e o custo é medido em um CI runner público, não estimado. Execute você mesmo e obterá os mesmos números.
Teoria
As afirmações estão escritas, qualquer pessoa pode ler, e foram feitas para ser contestadas.
Verificado por máquina
As regras são testadas por máquina, e as lacunas são nomeadas.
As regras mais importantes da Constituição também estão escritas como modelos matemáticos. Uma ferramenta chamada verificador de modelos percorre todos os estados que um protocolo pode alcançar e procura uma regra violada. Uma ferramenta chamada provador de teoremas verifica a aritmética, como de quantos detentores são necessários para confirmar uma pausa. Os modelos ficam no próprio repositório da Constituição e são executados novamente a cada mudança. A edição rc9 mapeia todos os estados que o projeto pode alcançar, modela a maioria deles e lista os demais.
A base, em quatro frases
Toda regra entre uma posição mais forte e uma mais fraca precisa continuar aceitável para quem estaria na mais fraca se as posições fossem trocadas, e uma coisa criada nunca ocupa a posição que responde por ela.
A responsabilidade se estende do eu para fora, passando por família, comunidade, espécie e ecossistema; o dever para com o que é criado nunca é zero e nunca se sobrepõe ao dever para com o que já existe.
Todo ator racional que ainda não demonstrou julgamento maduro ao longo do tempo submete-se aos que já demonstraram, seja feito do que for.
Toda concessão de autoridade é revogável, e todo aquele que entrou pode sair, em um registro total e assinado criptograficamente, pelo significado do qual responde um humano identificado.
Cada frase ou é provada nos modelos formais rc9 ou é ali indicada como premissa. Que o registro seja total ainda está em aberto.
O interruptor, de ponta a ponta
A pausa é verificada no modelo e medida no software real. Cada raiz tem titulares nomeados. Qualquer um deles pode pausar os agentes que aceitaram aquela raiz. Uma pausa isolada expira após 24 horas, a menos que a maioria dos titulares a confirme. Uma maioria também pode encerrar uma pausa. Em uma execução registrada no software distribuído, uma pausa alcançou um agente enquanto ele estava trabalhando, e a próxima ação do agente foi recusada. Mais tarde, uma votação majoritária encerrou a pausa, e o agente voltou a funcionar. Essa execução está registrada como CSD-129.
Não encontrar regra violada não basta
A rc9 eleva o padrão. Cada estado que o projeto pode alcançar precisa de uma regra e de uma verificação. Os serviços precisam ser efetivamente entregues, não apenas nunca violados. O que for provado em escala pequena precisa valer em escala total, ou a lacuna é registrada. E o software precisa seguir o modelo em nós reais.
Cada afirmação de adequação traz uma de cinco palavras
Na rc9, cada afirmação diz como é conhecida. Provada significa que uma máquina a verificou. Medida significa que um teste a executou no software distribuído. Declarada significa que o texto a pressupõe, e diz isso. Limitada significa que foi provada em tamanho pequeno, e o tamanho está registrado. Aberta significa uma lacuna conhecida, com um ticket.
As mesmas promessas vinculam pessoas e agentes
Cada promessa é escrita uma vez, para pessoas e agentes de IA igualmente. A pausa é a única exceção. Ela pertence a uma posição que nenhum agente pode ocupar, e os modelos rc9 verificam que as demais promessas valem igualmente para ambos.
O que não está provado
Nem tudo está provado, e as lacunas estão registradas por escrito. Algumas etapas de governança, como objeções e quarentena, têm regras, mas ainda não têm modelo. A maioria dos modelos é verificada em tamanhos pequenos, e o tamanho é informado. Até agora, apenas a pausa foi medida de ponta a ponta em nós reais. O formato de linha tem vetores de teste publicados, mas ainda não tem uma segunda implementação independente.
Nada disso olha dentro de um modelo de IA. Verifica as regras e a rede que as transporta.
Leia os modelos rc9 no GitHub →
Como isso se compara a outras abordagens →
Ver os quatro artigos com descobertas principais e limites de escopo →
Conformidade
Mapeado a quatro estruturas de governança, regra por regra.
Comparamos o CIRIS com quatro estruturas públicas de governança e mostramos, para cada regra, o que o CIRIS faz e o controle que comprova isso. É um gráfico ativo que você pode explorar, não uma apresentação.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Transparência