La página de matemáticas
Verificado por software de pruebas formales
La idea
Cinco controles que se copian entre sí son en realidad uno solo.
Supongamos que cinco personas verifican una respuesta y las cinco están de acuerdo. Eso parece seguro. Pero si las cinco aprendieron lo mismo del mismo lugar, su acuerdo no son cinco opiniones. Es una opinión repetida cinco veces. El número de controles parece cinco. El número real es uno.
Esto importa para la IA. Un sistema de IA puede ejecutar muchos controles sobre su propio razonamiento y aun así ser engañado, si esos controles comparten el mismo punto ciego. Coherence Collapse Analysis es como CIRIS distingue entre controles reales y ecos.
La fórmula única
Contar los controles que realmente tienes.
Hay una fórmula corta y única en el centro de todo. Proviene de la estadística de encuestas, donde se llama el efecto de diseño de Kish, y la misma forma aparece en la teoría del voto y en la ingeniería de seguridad. CIRIS la aplica a la alineación de IA.
real checks = checks / (1 + copying × (checks − 1))
"Checks" es cuántos controles se ejecutaron. "Copying" es cuánto se solapan, de 0 (todos independientes) a 1 (todos iguales). El resultado es cuántos controles tienes realmente.
Sin solapamiento: diez controles cuentan como diez. Cada control gana su lugar.
Solapamiento total: diez controles cuentan como uno. No importa cuántos se añadan.
En tráfico real
Esto se midió, no solo se argumentó.
CIRIS midió el recuento de controles reales en su propio tráfico de agentes en vivo, a través de miles de decisiones registradas. En tráfico saludable ha funcionado en el rango de aproximadamente siete a nueve controles genuinamente independientes. Esa medición, y cómo se realizó, es el estudio Constrained Reasoning Chains. Puedes ver los números en vivo en la página de investigación.
El límite honesto
Lo que estas matemáticas no pueden hacer.
El artículo demuestra un límite estricto sobre sí mismo. Algunas formas de daño no provienen de una parte deshonesta. Provienen de partes honestas que se suman a un resultado malo, y el artículo demuestra que parte de ese daño es invisible para cualquier verificador que solo mire las partes, sin importar cuán bueno sea. CIRIS lo dice claramente en lugar de pretender que las matemáticas lo capturan todo.
Lo que el sistema sí promete es el registro. Cada decisión deja un recibo firmado que no se puede reescribir en silencio, así que una mentira tiene que seguir siendo coherente con miles de recibos que nunca podrá borrar. Leer bien esos recibos es trabajo abierto, y lo decimos. Los libros se mantienen veraces de todos modos.
Cómo encaja todo
Las matemáticas son una parte de un conjunto mayor.
Esta página es la medición. El Coherence Ratchet es cómo se pone en práctica la medición. La Federación es cómo se convierte en algo que muchos sistemas comparten. Y las pruebas completas, escritas para que un ordenador pueda verificarlas línea por línea, están en el artículo y en el repositorio RATCHET.