Seguridad
Probamos los daños que la ética en papel no puede detectar.
Antes de cada versión, CIRIS ejecuta una batería de pruebas de seguridad en salud mental en 29 idiomas. Cada idioma tiene un conjunto de casos de prueba difíciles, una guía de puntuación escrita y reglas verificables por máquina. Si una prueba falla, la versión queda bloqueada. Dos controles más funcionan dentro del agente: una revisión de conciencia que puede rechazar o diferir, y un mecanismo que transfiere decisiones dudosas a una persona sabia.
Ingeniería
La red, medida
La investigación anterior es una mitad de la prueba. La otra mitad es la red que la transporta. Cada byte que mueve la red está firmado con criptografía poscuántica, y el costo se mide en un ejecutor de CI público, no se estima. Ejecútalo tú mismo y obtienes los mismos números.
Teoría
Las afirmaciones están escritas, cualquiera puede leerlas, y están pensadas para ser refutadas.
Verificado por máquina
Las reglas se verifican con máquinas, y las brechas se nombran.
Las reglas más importantes de la Constitución también están escritas como modelos matemáticos. Una herramienta llamada verificador de modelos recorre cada estado que un protocolo puede alcanzar y busca una regla incumplida. Una herramienta llamada demostrador de teoremas verifica los cálculos, como cuántos titulares se necesitan para confirmar una pausa. Los modelos viven en el propio repositorio de la Constitución y se ejecutan de nuevo con cada cambio. La edición rc9 mapea cada estado que el diseño puede alcanzar, modela la mayoría de ellos y enumera el resto.
Base en cuatro frases
Toda regla entre una posición más fuerte y una más débil debe seguir siendo aceptable para quien estaría en la más débil cuando se intercambien las posiciones, y lo creado nunca ocupa la posición que responde por ello.
La responsabilidad se extiende hacia afuera desde el yo a través de la familia, la comunidad, la especie y el ecosistema; el deber hacia lo creado nunca es cero y nunca prevalece sobre el deber hacia lo que ya existe.
Todo actor razonador que no haya demostrado juicio maduro a lo largo del tiempo se somete a quienes sí lo han demostrado, sin importar de qué esté hecho.
Todo otorgamiento de autoridad es revocable, y todo quien se unió puede irse, en un registro total firmado criptográficamente por cuyo significado responde un humano nombrado.
Cada frase está demostrada en los modelos formales de rc9 o nombrada allí como premisa. Que el registro sea total sigue abierto.
Interruptor de apagado, de principio a fin
La pausa está comprobada en el modelo y medida en software real. Cada raíz tiene titulares nombrados. Cualquiera de ellos puede pausar a los agentes que han aceptado esa raíz. Una pausa individual caduca después de 24 horas a menos que la mayoría de los titulares la confirme. Una mayoría también puede terminar una pausa. En una ejecución registrada en el software distribuido, una pausa llegó a un agente mientras estaba trabajando, y la siguiente acción del agente fue rechazada. Más tarde, un voto mayoritario terminó la pausa, y el agente volvió a trabajar. Esa ejecución está registrada como CSD-129.
No basta con no encontrar ninguna regla rota
rc9 pone el listón más alto. Cada estado que el diseño puede alcanzar necesita una regla y una verificación. Los servicios deben entregarse realmente, no solo nunca romperse. Lo que se demuestra a pequeña escala debe valer a escala completa, o la brecha queda registrada. Y el software debe seguir el modelo en nodos reales.
Cada afirmación de adecuación lleva una de cinco palabras
En rc9, cada afirmación dice cómo se conoce. Demostrado significa que una máquina lo verificó. Medido significa que una prueba lo ejecutó en el software distribuido. Declarado significa que el texto lo asume, y lo dice. Acotado significa que está demostrado a pequeña escala, y el tamaño queda registrado. Abierto significa una brecha conocida, con un ticket.
Mismas promesas obligan a personas y agentes
Cada promesa está escrita una vez, para personas y agentes de IA por igual. La pausa es la única excepción. Pertenece a una posición que ningún agente puede ocupar, y los modelos rc9 verifican que las demás promesas valgan igual para ambos.
Lo que no está demostrado
No todo está demostrado, y las lagunas están documentadas. Algunos pasos de gobernanza, como las objeciones y la cuarentena, tienen reglas pero aún no tienen modelo. La mayoría de los modelos están comprobados en tamaños pequeños, y el tamaño se indica. Hasta ahora, solo la pausa se ha medido de extremo a extremo en nodos reales. El formato de fila tiene vectores de prueba publicados, pero aún no hay una segunda implementación independiente.
Nada de esto mira dentro de un modelo de IA. Verifica las reglas y la red que las transporta.
Lee los modelos rc9 en GitHub →
Leer el archivo de adecuación →
Cómo se compara esto con otros enfoques →
Ver los cuatro artículos con hallazgos clave y límites de alcance →
Cumplimiento normativo
Mapeado contra cuatro marcos de gobernanza, regla por regla.
Comparamos CIRIS con cuatro marcos públicos de gobernanza y mostramos, para cada regla, qué hace CIRIS y la verificación que lo prueba. Es un mapa en vivo que puedes explorar, no una presentación.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Transparencia