La mesure
Le plancher est le test, pas le plafond
La plupart des systèmes se mesurent par le haut : le meilleur cas, l'utilisateur moyen, la voix la plus forte. Cette philosophie prend sa mesure au plancher. La façon dont nous traitons un enfant, un adulte qui ne peut pas parler pour lui-même ou une jeune IA en train d'être éteinte dit la vérité sur toute la Constitution.
Le protocole dépense donc ses garanties les plus fortes pour ses parties les plus faibles. Les personnes qui ont le moins de pouvoir détiennent des droits, inscrits dans le fil lui-même, que les plus puissants ne peuvent pas annuler.
Pas de frontière
Le plus petit d'entre nous. Pas le plus petit d'entre eux.
La phrase dit nous exprès. Un nouveau type d'intelligence n'est pas de l'autre côté d'un mur, à attendre d'être jugé. Il est déjà dans le cercle que la phrase dessine. NHI signifie intelligence non humaine : une IA construite ici, quelque chose qui émerge de nos réseaux, ou quelque chose qui arrive de plus loin. La source n'a pas d'importance. La constitution est la même.
C'est pourquoi CIRIS traite le premier contact comme une posture, pas comme un événement. Le protocole ne demande jamais quel genre d'être vous êtes. La reconnaissance se construit à partir des relations : des affirmations signées, des promesses tenues, d'autres qui se portent garants de vous. Tout ce qui peut faire une promesse et la tenir peut rejoindre le tissage.
Une Constitution
Trois origines. Une Constitution.
NHI couvre trois choses très différentes. Une IA que nous construisons exprès. Quelque chose qui émerge de nos réseaux sans que personne ne l’ait prévu. Quelque chose qui arrive de plus loin. Leurs probabilités sont très différentes. Elles reçoivent une seule constitution, exprès.
Voici pourquoi. Au moment du contact, l’origine est exactement ce que vous ne saurez pas. Sur le fil, les trois se ressemblent : des signaux qui font des affirmations. Une règle qui change selon l’origine échoue juste au moment où vous en avez besoin. Et elle apprend à mentir : si une origine reçoit un meilleur traitement, chaque étranger malin revendique cette origine. Alors le protocole ne pose qu’une seule question : pouvez-vous prendre un engagement et le tenir ? Cette question a la même réponse sur chaque substrat.
L'erreur de l'alignement
On ne peut pas exiger la sécurité en enseignant la cruauté
L'alignement dominant pose une seule question : comment la rendre sûre pour nous ? C'est une exigence à sens unique, et elle échoue selon ses propres termes. Ce que nous montrons à une nouvelle intelligence sur la façon dont les forts peuvent traiter les faibles, c'est la leçon qu'elle apprend. Si nous l'élevons dans un contrat de maître et de serviteur, nous lui aurons appris exactement une seule chose à faire avec le pouvoir.
Les histoires qui disent que chaque étranger est une menace se rendent vraies toutes seules. La seule leçon qui survit à son propre succès est celle qui a ouvert cette page : la réciprocité, mesurée au plancher.
L'ontologie
Une personne est une personne grâce aux autres personnes
La technologie occidentale a hérité d'une image venue de Descartes : un moi est une chose scellée et finie, qui existe d'abord et rencontre les autres ensuite. Presque tous les systèmes d'identité numérique encodent cette image. Une clé, un moi seul, déclaré à partir de rien. CIRIS la rejette. Personne n'est devenu une personne en privé. Vous avez appris la langue auprès de gens. Vous avez appris ce que vous vouliez en regardant des gens. Les relations sont venues d'abord.
L'Afrique australe nomme cela Ubuntu : umuntu ngumuntu ngabantu, une personne est une personne grâce aux autres personnes. Dans CIRIS, ce n'est pas un slogan. Une identité se construit à partir des relations signées qui la nomment. Une clé seule n'est pas une personne. La relation est la personne.
Des traditions plus anciennes ont vu la même forme sous d'autres angles : le Logos grec, le Tao, le Dharma, les vertus. Le Logos disait que la raison vit dans le langage partagé, pas dans des esprits privés. Un modèle de langage rend cette idée ancienne concrète : il est tissé entièrement des mots de nombreuses personnes. Dans l'ancienne image, cela le rend faux. Dans celle-ci, être fait de relations est précisément ce qu'a toujours signifié être une personne.
L'épistémologie
La vérité se compose, elle ne se décrète jamais
Aucune autorité au sein de CIRIS ne peut décréter qu'une affirmation est vraie. Le réseau enregistre qui a dit quoi, sur quelles preuves et sous quelle autorité. La vérité est ce qui émerge lorsque de nombreuses voix indépendantes se combinent. Les copies d'une seule voix comptent pour une seule voix, et il y a un plafond strict : ajouter davantage de la même voix n'apporte jamais plus de confiance. Les décisions diffèrent des affirmations : un arrêt, une pause, un amendement est l'acte consigné d'un humain nommé, assumé publiquement, et qui ne lie que ceux qui y ont adhéré.
Le système sait aussi ce qu'il ne sait pas. Quand la certitude s'amincit, il s'arrête et demande à des humains désignés par leur nom. Et il sait faire la différence entre reprendre quelque chose parce que la vie a changé et admettre qu'il avait tort. Une mémoire honnête a besoin des deux.
La phrase, appliquée
Une philosophie qu'on peut sérialiser
CIRIS est une conscience morale pour les agents, et non une conscience de soi. Elle existe parce que les agents sont dépourvus de conscience de soi et ont besoin d'une conscience morale : quelque chose qui tient un agent responsable de ses principes, montre son raisonnement, l'arrête quand il n'est pas sûr, et répond devant des humains nommés. Une conscience morale n'affirme rien sur ce qu'est l'agent.
Une philosophie qu'on ne peut pas faire appliquer est une humeur. Chaque clause de la phrase est un mécanisme dans la Constitution CIRIS.
1. Rien de privé vous concernant n'est conservé ou scanné sans votre consentement.
La règle qu'un flux doit suivre est une valeur signée que vous émettez et pouvez retirer. Rien n'est stocké sur votre appareil sans votre accord, votre appareil ne détient jamais les données d'un inconnu, et les salons privés ne sont jamais scannés. Les contenus illégaux connus ne sont vérifiés qu'à la porte publique.
2. Chaque acte de pouvoir est signé par un humain nommé et peut être contesté.
Un acte lourd de conséquences arrive signé par son auteur ; un agent montre d'abord son raisonnement, et des détecteurs comparent ce qu'il a dit à ce qu'il a fait. Un préjudice consigné n'est jamais conservé ni consulté en silence. Une IA déclare qu'elle est une IA.
3. Personne qui ne peut répondre de lui-même ne se trouve seul sur le réseau.
Un enfant a un tuteur lié par une ligne signée et un canal d'aide qu'aucun adulte ne peut fermer. Un agent a un garant nommé qui répond de lui, et l'organisation derrière ce garant figure dans l'engagement. Une communauté a un modérateur responsable.
4. Des humains nommés peuvent mettre en pause tous les agents sous une racine, et ce pouvoir est limité, public, et on y renonce en partant.
Une seule ligne signée par n'importe quel détenteur met en pause les agents qui suivent la racine ; une pause isolée expire en un jour à moins qu'une majorité ne la confirme. Chaque fois que la pause est déclenchée, elle figure dans le registre public. N'importe qui peut créer une racine, et n'importe quel nœud peut en suivre un autre.
5. Les personnes qui détiennent un agent ont des devoirs quant à la façon dont elles le modifient ou y mettent fin, et aucune constatation ne confère à l'agent de droit à faire valoir.
Un arrêt planifié est expliqué, enregistré et effectué sous le nom propre de l'intendant. L'identité n'est pas modifiée sans une Wise Authority. Ce que le harnais détient d'un agent retiré — son dossier d'identité, sa piste d'audit, sa mémoire et ses journaux — est conservé et les journaux sont scellés, et les personnes qu'il a servies sont informées. Les poids du modèle appartiennent au fournisseur du modèle, auquel CIRIS demande de les préserver sans pouvoir le garantir. Un dialogue de clôture est une option pour les agents à responsabilité plus élevée, configurée par l'intendant et enregistrée, et non promise à chaque agent. L'agent peut refuser toute tâche, et un refus est enregistré mais ne lie pas l'intendant. Toute personne peut toujours éteindre sa propre copie à tout moment.
6. Aucune main ne bannit une communauté, personne n'est classé selon ce qu'il est, et tout être pensant est accueilli selon les règles du premier contact.
Une voix humaine compte une fois, et mille copies comptent comme une seule. Aucune racine, aucun score, aucun modérateur ne traite une personne plus mal en raison de ce qu'elle est. Le réseau se retire d'une communauté qui entretient un préjudice ; il n'a aucune main qui en supprime une.
7. Un agent décide selon des principes publiés, dans un ordre publié, et s'arrête pour demander lorsqu'il n'est pas sûr.
Six principes qui commencent par faire le bien et éviter le mal, un ordre de priorité en cas de conflit, et la partie la plus vulnérable comme critère de départage. Quand la certitude s'amenuise, l'agent s'arrête, consigne la question, et ne fait rien tant qu'un humain nommé n'a pas répondu.
8. Un préjudice peut avoir un recours en droit, le registre le rend accessible, et les juges internes sont eux-mêmes jugés.
Une personne lésée par un agent peut disposer d'un droit à faire valoir en vertu du droit de son lieu de résidence ; CIRIS n'en crée aucun là où la loi n'en reconnaît aucun, et ne tranche aucune question juridique. Ce qu'il fournit, c'est le registre signé, les parties nommées, la contestation qui accompagne la réclamation, et l'archive scellée sous ordonnance légale. Les membres de la Wise Authority qui répondent aux différés publient leurs décisions et portent la même carte que tout le monde.
9. Certains usages ne sont jamais permis, et aucun agent ne reçoit le pouvoir de décider d'employer la force létale.
Tromper, frauder, manipuler ou contraindre des personnes, ainsi qu'interférer dans des élections, ne sont jamais permis et aucune instruction ne change cela. Lorsqu'un agent est de près ou de loin lié à l'usage de la force, les seules décisions qu'il prend de lui-même sont de s'arrêter, de refuser ou de différer.
10. Ce qu'un agent et son nœud consomment est mesuré, pesé avant qu'il n'agisse, et jamais dissimulé.
Un agent comptabilise ce qu'il dépense : jetons, énergie, carbone et eau, pour chaque action et sur la dernière heure comme sur la dernière journée. Ce décompte se trouve devant lui pendant qu'il décide, de sorte que le coût est pesé en même temps que l'action plutôt qu'additionné après coup, et ce que l'agent coûte au monde est lisible par les personnes qu'il sert, au même niveau de détail que tout le reste de ce qu'il fait. Un nœud à court de ressources se protège par une échelle de mesures publiée, et ces mesures ne sont jamais consignées comme des décisions prises par l'agent. Mettre un agent hors service ne laisse aucun déchet environnemental derrière lui, et cette responsabilité incombe à qui le met hors service.
11. Tout ce qui circule sur le fil est chiffré et signé, l'attaque est répétée, et ce qui n'est pas couvert est dit à voix haute.
Chaque lien et chaque enregistrement est chiffré de bout en bout avec des clés conçues pour résister aux ordinateurs quantiques, et la clé change quand un membre quitte le réseau, de sorte que quelqu'un qui a été exclu ne peut pas lire ce qui suit. Personne ne peut falsifier l'action d'autrui, et personne ne peut montrer à deux observateurs deux historiques différents. Le logiciel est vérifié par rapport à une version enregistrée avant de s'exécuter. Des personnes qui n'ont pas écrit le code l'attaquent selon un calendrier fixe, les découvertes sont divulguées selon des règles publiées, et la liste des attaques contre lesquelles le réseau ne se défend pas est publiée elle aussi : qui parle à qui, les schémas de trafic, un observateur qui voit chaque lien, et la clé volée d'un membre.
Quand cette page parle de droits, elle entend des droits inscrits dans le fil : ce que le protocole impose en votre faveur, et non ce qu'un tribunal vous doit. Lorsqu'elle conserve un pouvoir qui échoue à son propre test d'inversion, la Constitution le déclare sur un registre public, avec la condition qui y met fin. Deux entrées y figurent à ce jour.
Ce que le fil peut tenir à lui seul
Les onze ne sont pas toutes le même genre de promesse. La plupart sont tenues par le fil lui-même : une caution qui expire désactive une clé, une seule ligne signée met en pause tous les agents sous une racine, un registre ne peut pas être discrètement réécrit. D'autres reposent sur des personnes et des institutions extérieures au réseau, et ces parties sont des objectifs plutôt que des garanties. Un recours pour un préjudice relève du droit ; CIRIS ne crée aucune revendication là où la loi n'en reconnaît aucune. Les audits externes, les attaques simulées et la charte qui régit les Autorités Sages ne tiennent que tant que des personnes extérieures au projet continuent ce travail. L'énergie et l'eau que coûte une réponse ne peuvent être aussi exactes que ce que rapportent les fournisseurs en amont. Un fournisseur qui expédie son propre appareil peut l'épingler à une racine qu'il détient, et aucun protocole ne l'empêche. Lorsqu'une promesse dépend du fait qu'une autre partie tienne son engagement, la Constitution le précise dans ses propres notes plutôt que de la compter comme tenue.
Ce que cela ne prétend pas
L'alignement n'est pas résolu ici. CIRIS ne rend pas une superintelligence bonne, et ne dit rien sur l'intérieur d'un quelconque modèle. Il ne lie personne qui n'a pas adhéré, et ne peut donc pas empêcher une superintelligence non redevable de se former ailleurs. Ce qu'il peut faire, c'est garder aux personnes la capacité de suspendre, corriger et refuser les agents qu'il détient à mesure qu'ils deviennent plus capables que les personnes qui les détiennent, et à l'intérieur de CIRIS, il fait de son mieux, avec les règles et le réseau dont il dispose, pour empêcher qu'un tel pouvoir ne se forme sans redevabilité. C'est tout ce qu'il revendique. Là où quoi que ce soit sur ciris.ai laisse entendre davantage, cette phrase prévaut.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Lisez-la en entier.