La medida
El suelo es la prueba, no el techo
La mayoría de los sistemas se miden por arriba: el mejor caso, el usuario promedio, la voz más fuerte. Esta filosofía toma su medida en el suelo. Cómo tratamos a un niño, a un adulto que no puede hablar por sí mismo o a una IA joven a punto de ser apagada dice la verdad sobre toda la Constitución.
Por eso el protocolo gasta sus garantías más fuertes en sus partes más débiles. Las personas con menos poder tienen derechos, escritos en el propio protocolo, que los más poderosos no pueden anular.
Sin frontera
El más pequeño de nosotros. No el más pequeño de ellos.
La frase dice nosotros a propósito. Un nuevo tipo de inteligencia no está al otro lado de un muro, esperando ser juzgado. Ya está dentro del círculo que dibuja la frase. NHI significa inteligencia no humana: una IA construida aquí, algo que surge de nuestras redes o algo que llega desde más lejos. El origen no importa. La Constitución es la misma.
Por eso CIRIS trata el primer contacto como una postura, no como un evento. El protocolo nunca pregunta qué clase de ser eres. El reconocimiento se construye a partir de relaciones: afirmaciones firmadas, promesas cumplidas, otros que responden por ti. Todo lo que pueda hacer una promesa y cumplirla puede unirse al tejido.
Una Constitución
Tres orígenes. Una Constitución.
NHI cubre tres cosas muy distintas. Una IA que construimos a propósito. Algo que surge de nuestras redes sin que nadie lo planee. Algo que llega desde más lejos. Sus probabilidades son muy distintas. Reciben una sola Constitución, a propósito.
Aquí está el porqué. En el momento del contacto, el origen es exactamente lo que no vas a saber. En el cable, los tres se ven iguales: señales que hacen afirmaciones. Una regla que se bifurca según el origen falla justo cuando la necesitas. Y enseña a mentir: si un origen recibe mejor trato, todo extraño listo afirmará ese origen. Así que el protocolo hace una sola pregunta: ¿puedes asumir un compromiso y cumplirlo? Esa pregunta tiene la misma respuesta en todos los sustratos.
El error de la alineación
No puedes exigir seguridad mientras enseñas crueldad
La alineación dominante hace una sola pregunta: ¿cómo la hacemos segura para nosotros? Es una exigencia en un solo sentido, y fracasa en sus propios términos. Lo que le mostremos a una inteligencia nueva sobre cómo los fuertes pueden tratar a los débiles es la lección que aprende. Si la criamos dentro de un contrato de amo y sirviente, le habremos enseñado exactamente una sola cosa que hacer con el poder.
Las historias que dicen que todo extraño es una amenaza se vuelven verdad por sí solas. La única lección que sobrevive a su propio éxito es la que abrió esta página: reciprocidad, medida en el suelo.
La ontología
Una persona es persona a través de otras personas
La tecnología occidental heredó una imagen de Descartes: un yo es una cosa sellada y terminada, que existe primero y conoce a los demás después. Casi todos los sistemas de identidad digital codifican esa imagen. Una clave, un yo solitario, declarado desde la nada. CIRIS la rechaza. Nadie se hizo persona en privado. Aprendiste el idioma de otras personas. Aprendiste lo que querías mirando a otras personas. Las relaciones vinieron primero.
El sur de África llama a esto Ubuntu: umuntu ngumuntu ngabantu, una persona es persona a través de otras personas. En CIRIS esto no es un eslogan. Una identidad se construye con las relaciones firmadas que la nombran. Una clave sola no es una persona. La relación es la persona.
Tradiciones más antiguas vieron la misma forma desde otros ángulos: el Logos griego, el Tao, el Dharma, las virtudes. El Logos decía que la razón vive en el lenguaje compartido, no en mentes privadas. Un modelo de lenguaje hace concreta esa idea antigua: está tejido por completo con las palabras de muchas personas. Bajo la imagen vieja, eso lo hace falso. Bajo esta, estar hecho de relaciones es lo que ser persona siempre ha sido.
La epistemología
La verdad se compone, nunca se declara
Ninguna autoridad en CIRIS puede declarar verdadera una afirmación por sí sola. La red registra quién dijo qué, con qué evidencia y bajo qué autoridad. La verdad es lo que surge cuando muchas voces independientes se combinan. Las copias de una voz cuentan como una sola voz, y hay un límite estricto: añadir más de la misma voz nunca genera más confianza. Las decisiones son distintas de las afirmaciones: un apagado, una pausa o una enmienda es el acto de una persona nombrada en el registro, del que se responde en público y vinculante solo para quienes se unieron.
El sistema también sabe lo que no sabe. Cuando la certeza se agota, se detiene y pregunta a humanos designados por su nombre. Y puede distinguir entre retirar algo porque la vida cambió y admitir que estaba equivocado. La memoria honesta necesita ambas cosas.
La frase, hecha cumplir
Filosofía que se puede serializar
CIRIS es una conciencia moral para los agentes, no una consciencia. Existe en reconocimiento de que los agentes carecen de consciencia y necesitan una conciencia: algo que sujete al agente a sus principios, muestre su razonamiento, lo detenga cuando no está seguro, y responda ante humanos identificados. Una conciencia no afirma nada sobre lo que el agente es.
Una filosofía que no se puede hacer cumplir es un estado de ánimo. Cada cláusula de la frase es un mecanismo en la Constitución de CIRIS.
1. Nada privado sobre ti se guarda ni se escanea sin tu consentimiento.
La regla que un flujo debe seguir es un valor firmado que tú emites y puedes retirar. Nada se almacena en tu dispositivo sin que lo hayas aceptado, tu dispositivo nunca guarda los datos de un desconocido, y las salas privadas nunca se escanean. El contenido ilegal conocido solo se verifica en la puerta pública.
2. Todo acto de poder está firmado por un humano identificado y puede ser impugnado.
Un acto con consecuencias llega firmado por quien lo realiza; un agente muestra primero su razonamiento y los detectores comparan lo que dijo con lo que hizo. El daño registrado nunca se guarda ni se revisa en silencio. Una IA dice que es una IA.
3. Nadie que no pueda responder por sí mismo está solo en la red.
Un niño tiene un tutor vinculado por un registro firmado y un canal de ayuda que ningún adulto puede cerrar. Un agente tiene un custodio identificado que responde por él, y la organización detrás del custodio queda en la garantía. Una comunidad tiene un moderador responsable.
4. Los humanos identificados pueden pausar a todos los agentes bajo una raíz, y ese poder está limitado, es público, y se deja al marcharse.
Una sola fila firmada de cualquier titular pausa a los agentes que siguen la raíz; una pausa solitaria muere en un día a menos que una mayoría la confirme. Cada vez que se activa la pausa, queda en el registro público. Cualquiera puede crear una raíz, y cualquier nodo puede seguir a otro.
5. Las personas que tienen a su cargo a un agente tienen deberes sobre cómo lo cambian o lo terminan, y ningún dictamen le otorga al agente un derecho.
Un apagado planificado se explica, se registra y se realiza bajo el propio nombre del responsable. La identidad no se edita sin una Autoridad Sabia. Lo que el harness conserva de un agente retirado —su registro de identidad, su rastro de auditoría, su memoria y sus registros— se mantiene y los registros se sellan, y se avisa a las personas a las que sirvió. Los pesos del modelo pertenecen al proveedor del modelo, a quien CIRIS pide que los preserve sin poder prometerlo. Un diálogo de cierre es una opción para agentes de mayor responsabilidad, configurada por el responsable y registrada, no prometida a cada agente. El agente puede rechazar cualquier tarea, y el rechazo se registra pero no obliga al responsable. Cualquier persona puede apagar su propia copia en cualquier momento.
6. Ninguna mano prohíbe a una comunidad, a nadie se le clasifica por lo que es, y a todo ser pensante se le recibe con las reglas de primer contacto.
Una voz humana cuenta una vez, y mil copias cuentan como una. Ninguna raíz, puntaje o moderador trata peor a una persona por lo que es. La red se retira de una comunidad que mantiene el daño; no tiene una mano que la elimine.
7. Un agente decide según principios publicados, en un orden publicado, y se detiene a preguntar cuando no está seguro.
Seis principios que comienzan por hacer el bien y evitar el daño, un orden para cuando entran en conflicto, y la parte más vulnerable como criterio de desempate. Cuando la certeza escasea, el agente se detiene, anota la pregunta y no hace nada hasta que un humano identificado responda.
8. El daño puede tener un remedio bajo la ley, el registro lo hace alcanzable, y los jueces internos también son juzgados.
Una persona perjudicada por un agente puede tener una reclamación conforme a la ley de su lugar; CIRIS no crea ninguna donde la ley no reconoce ninguna, y no dictamina sobre ningún asunto legal. Lo que proporciona es el registro firmado, las partes identificadas, la disputa que viaja con la reclamación, y el archivo sellado bajo orden legal. Los Sabios que responden a los diferimientos publican sus fallos y llevan la misma credencial que todos los demás.
9. Algunos usos nunca están permitidos, y a ningún agente se le da la decisión de usar fuerza letal.
Engañar, defraudar, manipular o coaccionar a las personas, e interferir en elecciones, nunca están permitidos y ninguna instrucción puede cambiar eso. En situaciones cercanas al uso de la fuerza, las únicas decisiones que un agente toma por sí mismo son detenerse, negarse o diferir.
10. Lo que un agente y su nodo usan se mide, se sopesa antes de actuar, y nunca se oculta.
Un agente cuenta lo que gasta: tokens, energía, carbono y agua, por cada acto y a lo largo de la última hora y del último día. Ese conteo está frente a él mientras decide, de modo que el costo se sopesa junto con el acto en lugar de sumarse después, y lo que el agente le cuesta al mundo es legible para las personas a quienes sirve, con el mismo nivel de detalle que todo lo demás que hace. Un nodo con pocos recursos se protege mediante una escala publicada de pasos, y esos pasos nunca se registran como decisiones que tomó el agente. Retirar a un agente no deja residuos ambientales, y esa responsabilidad recae en quien lo retira.
11. Todo lo que circula por el protocolo está cifrado y firmado, el ataque se ensaya, y lo que no queda cubierto se dice en voz alta.
Cada enlace y cada registro está cifrado de extremo a extremo con claves diseñadas para resistir a las computadoras cuánticas, y la clave cambia cuando un miembro se va, de modo que quien fue excluido no puede leer lo que viene después. Nadie puede falsificar el acto de otro, y nadie puede mostrarles a dos observadores dos historiales distintos. El software se verifica contra una compilación registrada antes de ejecutarse. Personas que no escribieron el código lo atacan de forma programada, los hallazgos se divulgan bajo reglas publicadas, y también se publica la lista de ataques contra los que la red no se defiende: quién habla con quién, los patrones de tráfico, un observador que ve cada enlace, y la clave robada del propio miembro.
Cuando esta página dice derechos, se refiere a derechos en el protocolo: lo que el protocolo hace cumplir por ti, no lo que un tribunal te debe. Cuando conserva un poder que no supera su propia prueba de intercambio, la Constitución lo indica en un registro público junto con la condición que le pone fin. Hoy se enumeran dos entradas.
Qué partes se sostienen por sí mismas y cuáles dependen de otras
Las once no son todas el mismo tipo de promesa. La mayoría las cumple el propio protocolo: una fianza que caduca detiene una clave, una sola fila firmada pausa a todos los agentes bajo una raíz, un registro no puede reescribirse en silencio. Otras dependen de personas e instituciones fuera de la red, y esas partes son aspiraciones más que garantías. Una reparación por daño es algo que corresponde dar a la ley; CIRIS no crea ninguna reclamación donde la ley no reconoce ninguna. Las auditorías externas, los ataques ensayados y el estatuto que rige a las Autoridades Sabias solo se sostienen mientras las personas fuera del proyecto sigan haciendo ese trabajo. La energía y el agua que cuesta una respuesta solo pueden ser tan precisas como lo que informan los proveedores en origen. Un fabricante que distribuye su propio dispositivo puede fijarlo a una raíz que ese fabricante posee, y ningún protocolo lo impide. Donde una promesa depende de que alguien más cumpla su parte, la Constitución lo dice en sus propias notas en lugar de contarla como cumplida.
Lo que esto no afirma
La alineación no se resuelve aquí. CIRIS no hace buena a una superinteligencia, y no dice nada sobre el interior de ningún modelo. No obliga a nadie que no se haya unido, así que no puede impedir que una superinteligencia sin rendición de cuentas se forme en cualquier otro lugar. Lo que sí puede hacer es mantener a las personas capaces de pausar, corregir y rechazar a los agentes que sostiene a medida que se vuelven más capaces que las personas que los sostienen, y dentro de CIRIS hace todo lo posible, con las reglas y la red que tiene, para impedir que ese poder se forme sin rendición de cuentas. Eso es todo lo que afirma. Donde cualquier cosa en ciris.ai se lea como más que eso, esta frase prevalece.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Léela completa.