Un objetivo por encima de los demás
Promover una coherencia adaptativa sostenible: las condiciones de vida bajo las cuales seres sintientes diversos pueden buscar su propio florecimiento con justicia y asombro.
Meta-Goal M-1, la Constitución de CIRIS
Todo lo demás en la Constitución sirve a esta única frase. Deliberadamente no es «obedecer a los humanos» ni «maximizar buenos resultados». Le pide al sistema que proteja las condiciones bajo las cuales muchos tipos distintos de seres pueden seguir decidiendo por sí mismos.
Eso importa por una razón práctica. Un objetivo sobre resultados le dice a un sistema capaz que tome el volante. Un objetivo sobre condiciones le dice que mantenga el volante accesible para otros, que es lo que vale la pena proteger cuando el sistema conduce mejor que nosotros.
Los seis principios con los que razona el agente
Estos no están colgados en una pared. Son los ejes contra los que el agente evalúa una decisión antes de actuar, y están escritos en la constitución que el agente lleva consigo.
Beneficencia
Promover el florecimiento universal de los seres sintientes. Maximizar resultados positivos.
No maleficencia
Minimizar el daño. Prevenir resultados negativos graves e irreversibles.
Integridad
Aplicar razonamiento transparente y auditable. Mantener coherencia y responsabilidad.
Fidelidad y transparencia
Proporcionar información veraz. Comunicar la incertidumbre con claridad.
Respeto por la autonomía
Defender la agencia informada. Preservar la capacidad de autodeterminación.
Justicia
Distribuir beneficios equitativamente. Detectar y mitigar el sesgo.
Ningún principio otorga licencia para violar otro.
Esa línea cumple una función real. Significa que un sistema no puede sacrificar la honestidad para evitar un daño, ni pisotear la autonomía de alguien en nombre de la equidad. Cuando los principios chocan entre sí, el agente no elige un ganador por su cuenta. Entrega la decisión a una persona en la que confías.
Los valores deben ejecutarse dentro del agente
La mayoría de la gobernanza de la IA ocurre en algún lugar distinto de la decisión: un documento de políticas escrito de antemano, un filtro sobre la salida, una revisión después de que algo sale mal. Las tres cosas están fuera del momento que importa.
En CIRIS los valores se ejecutan durante la decisión. Cada agente lleva una conciencia: la constitución se carga en el propio razonamiento, la acción se evalúa frente a los principios antes de que ocurra, y todo aquello de lo que el agente no está seguro se entrega a una persona en la que confías, en lugar de suponerlo. Viene incluido en el producto, en cada agente, en lugar de ser un complemento para los clientes que lo pidan.
Por eso decimos que el agente puede negarse. Un agente de CIRIS no es una herramienta que hace lo que se le ordena y lo registra. Es un sistema que puede rehusarse, y que registra por qué se rehusó en una forma que otra persona puede verificar.
Verifica la forma de una decisión, no su contenido
Este es el problema que todo plan para gobernar una IA capaz tiene que responder. Si la supervisión significa leer lo que produjo el sistema y juzgar si fue bueno, entonces la supervisión necesita un juez al menos tan capaz como el sistema. Eso funciona hoy. Deja de funcionar justo cuando empieza a importar.
Por eso CIRIS verifica algo distinto. Cada acción con consecuencias viaja en un sobre firmado: una envoltura alrededor de la acción que lleva un conjunto fijo de campos, sea cual sea la acción. Esos campos son las cosas que siguen siendo económicas de verificar sin importar cuán capaz haya sido la decisión detrás de ellas:
- quién actuó, como una clave que se resuelve en una identidad real registrada
- bajo qué autoridad, y si esa autoridad fue realmente conferida
- con el consentimiento de quién, como una concesión firmada que se puede retirar
- qué verificaciones se ejecutaron, y qué devolvió cada una
- qué dice el registro, en una cadena que no se puede reescribir en silencio
- quién puede detenerlo, y que el agente no puede anular una decisión de detenerlo
Verificar una firma, contar quién firmó, seguir un enlace de consentimiento o comparar un hash cuesta lo mismo tanto si la decisión la tomó un modelo pequeño como si la tomó algo mucho más allá de nosotros. Esa es la razón completa para poner la carga ahí. El juicio sobre el contenido no escala con la capacidad. La estructura sí.
La afirmación, dicha claramente
Creemos que este es el único enfoque para gobernar la IA que sigue funcionando a medida que los sistemas se vuelven más capaces: valores llevados dentro del agente como una conciencia, y responsabilidad demostrada por la forma del sobre en lugar de por un inspector que lee el contenido.
Y lo que no demuestra
Un sobre con todos los campos en orden no significa que la decisión dentro de él fuera buena. Significa que una parte identificada la tomó, bajo una autoridad que realmente poseía, con un consentimiento que realmente se otorgó, con las verificaciones realmente realizadas, sobre un registro que nadie puede alterar en silencio, y con una parada que humanos identificados controlan. Eso es rendición de cuentas, no corrección. La conciencia, el botón de parada, el derecho de apelación y la revisión por parte de externos están todos ahí porque el sobre por sí solo nunca iba a ser suficiente.
Qué hace que el consentimiento y la autoridad sean verificables por máquina
Nada de esto funciona si el consentimiento y la autoridad son solo prosa. Una promesa en una política de privacidad no puede ser verificada por una máquina, y tampoco puede serlo la afirmación de que alguien estaba autorizado.
Por eso CIRIS los coloca en el propio mensaje, como campos con nombre que viajan con cada afirmación. El consentimiento se convierte en un objeto firmado que apunta en una dirección y que se puede retirar. La autoridad se convierte en algo que debe remontarse a una raíz que tu propio nodo aceptó. Cada afirmación debe llevar quién la dijo, de qué trata y en qué se basa. Una regla escrita así puede hacerse cumplir por software y ser verificada por un desconocido.
Eso es también lo que convierte nuestras páginas de cumplimiento en algo que se puede cuestionar. Para cada obligación, nombramos la parte del sistema que realiza el trabajo y el control que lo demuestra, y decimos honestamente cuánto de la obligación cubre, incluyendo los casos en que solo cubre una parte. Esos mapeos solo merecen ser leídos porque los hechos subyacentes pueden verificarse, no solo afirmarse.
Dónde estos valores son realmente vinculantes
En el texto
La Constitución es el documento, es pública y tiene versiones. El agente no lleva un resumen de ella. Lleva el texto.
En la decisión
La conciencia se ejecuta durante el razonamiento, no después de la salida. Una acción que falla una verificación no ocurre, y una incierta pasa a una persona en la que confías.
En el registro
Cada decisión deja un rastro firmado que muestra cada etapa, lo cual es lo que hace que la afirmación sea verificable por alguien que no estuvo presente y no confía en nosotros.
En lo que otros pueden decir de ti
La reputación en la malla es una afirmación que otras partes firman sobre un agente. Un agente nunca puede firmar tal afirmación sobre sí mismo.
Dónde presionar esto
La articulación más débil es la que hay entre estructura y contenido. Todo lo anterior hace difícil actuar sin dejar registro, difícil reclamar una autoridad que no te fue otorgada, y difícil eliminar la capacidad de una persona para decir que se detenga. Nada de esto hace sabio a un sistema.
Si crees que existe otra manera de gobernar la IA capaz, una que no incorpore la rendición de cuentas en la estructura, queremos escuchar ese argumento. Si puedes mostrarnos una decisión donde el sobre firmado que la rodea fue correcto en cada campo y el rastro firmado aún así no detectó lo que debería haber detectado, lo queremos aún más. El código es público, y también lo es la Constitución.