Sécurité
Nous testons pour les dommages que l'éthique sur papier ne peut pas détecter.
Avant chaque version, CIRIS effectue une batterie de tests de sĂ©curitĂ© en santĂ© mentale dans 29 langues. Chaque langue a un ensemble de cas de test difficiles, un guide de notation Ă©crit, et des rĂšgles vĂ©rifiables par machine. Si un test Ă©choue, la version est bloquĂ©e. Deux autres garde-fous fonctionnent Ă l'intĂ©rieur de l'agent lui-mĂȘme: un contrĂŽle de conscience qui peut refuser ou diffĂ©rer, et un renvoi qui confie les dĂ©cisions douteuses Ă un humain avisĂ©.
Ingénierie
Le réseau, mesuré
Les recherches ci-dessus ne sont qu'une moitiĂ© de la preuve. L'autre moitiĂ©, c'est le rĂ©seau qui les transporte. Chaque octet que le rĂ©seau dĂ©place est signĂ© post-quantum, et le coĂ»t est mesurĂ© sur un runner CI public, pas modĂ©lisĂ©. Reproduisez-le vous-mĂȘme et vous obtenez les mĂȘmes chiffres.
Théorie
Les affirmations sont Ă©crites, lisibles par tous, et conçues pour ĂȘtre rĂ©futĂ©es.
Vérifié par machine
Les rÚgles sont testées par la machine, et les lacunes sont nommées.
Les rÚgles les plus importantes de la Constitution sont aussi écrites sous forme de modÚles mathématiques. Un outil appelé vérificateur de modÚles parcourt chaque état qu'un protocole peut atteindre et recherche une rÚgle violée. Un outil appelé prouveur de théorÚmes vérifie les calculs, par exemple combien de détenteurs il faut pour confirmer une pause. Les modÚles résident dans le dépÎt propre de la Constitution, et ils sont exécutés à nouveau à chaque modification. L'édition rc9 cartographie chaque état que la conception peut atteindre, en modélise la plupart et énumÚre les autres.
Fondement en quatre phrases
Toute rÚgle entre une position plus forte et une position plus faible doit rester acceptable pour celle ou celui qui occuperait la plus faible si les positions étaient échangées, et une chose fabriquée n'occupe jamais la position qui répond pour elle.
La responsabilité s'étend vers l'extérieur depuis le soi à travers la famille, la communauté, l'espÚce et l'écosystÚme ; le devoir envers ce qui est fabriqué n'est jamais nul et ne prime jamais sur le devoir envers ce qui existe déjà .
Tout acteur doté de raison qui n'a pas fait preuve d'un jugement mûr dans la durée s'en remet à ceux qui en ont fait preuve, quelle que soit sa matiÚre.
Toute délégation d'autorité est révocable, et quiconque a adhéré peut partir, sur un registre exhaustif signé cryptographiquement dont le sens est assumé par un humain nommément désigné.
Chaque phrase est soit prouvée dans les modÚles formels rc9, soit désignée comme prémisse. Le fait que le registre soit exhaustif reste ouvert.
Interrupteur d'arrĂȘt, de bout en bout
La pause est vérifiée dans le modÚle et mesurée sur le logiciel réel. Chaque racine a des détenteurs nommés. Chacun d'eux peut mettre en pause les agents qui ont accepté cette racine. Une pause lancée par un seul détenteur expire aprÚs 24 heures sauf si la majorité des détenteurs la confirme. Une majorité peut également mettre fin à une pause. Lors d'un essai enregistré sur le logiciel distribué, une pause a atteint un agent pendant qu'il travaillait, et l'action suivante de l'agent a été refusée. Plus tard, un vote à la majorité a mis fin à la pause, et l'agent a recommencé à travailler. Cet essai est enregistré sous la référence CSD-129.
Ne trouver aucune rĂšgle enfreinte ne suffit pas
rc9 place la barre plus haut. Chaque Ă©tat que la conception peut atteindre exige une rĂšgle et une vĂ©rification. Les services doivent ĂȘtre rĂ©ellement fournis, et pas seulement jamais enfreints. Ce qui est prouvĂ© Ă petite Ă©chelle doit rester valable Ă pleine Ă©chelle, ou l'Ă©cart est consignĂ©. Et le logiciel doit suivre le modĂšle sur des nĆuds rĂ©els.
Chaque affirmation d'adéquation porte l'un des cinq mots
Dans rc9, chaque affirmation dit comment elle est connue. ProuvĂ© signifie qu'une machine l'a vĂ©rifiĂ©e. MesurĂ© signifie qu'un test l'a exĂ©cutĂ©e sur le logiciel dĂ©ployĂ©. ĂnoncĂ© signifie que le texte le suppose, et le dit. BornĂ© signifie que c'est prouvĂ© Ă petite Ă©chelle, et que l'Ă©chelle est consignĂ©e. Ouvert signifie une lacune connue, avec un ticket.
Les mĂȘmes promesses lient les personnes et les Agents
Chaque promesse est Ă©crite une seule fois, pour les humains comme pour les agents d'IA. La pause est la seule exception. Elle appartient Ă une position qu'aucun agent ne peut occuper, et les modĂšles rc9 vĂ©rifient que les autres promesses valent de mĂȘme pour les uns et les autres.
Ce qui n'est pas prouvé
Tout n'est pas prouvĂ©, et les lacunes sont documentĂ©es. Certaines Ă©tapes de gouvernance, comme les objections et la quarantaine, ont des rĂšgles mais pas encore de modĂšle. La plupart des modĂšles sont vĂ©rifiĂ©s Ă petite Ă©chelle, et l'Ă©chelle est indiquĂ©e. Jusqu'Ă prĂ©sent, seule la pause a Ă©tĂ© mesurĂ©e de bout en bout sur des nĆuds rĂ©els. Le format de ligne dispose de vecteurs de test publiĂ©s, mais pas encore d'une seconde mise en Ćuvre indĂ©pendante.
Rien de tout cela ne regarde à l'intérieur d'un modÚle d'IA. Cela vérifie les rÚgles, et le réseau qui les transporte.
Lire les modĂšles rc9 sur GitHub â
Lire le dossier d'adĂ©quation â
Comparaison avec les autres approches â
Lire la Constitution CIRIS â
Voir les quatre articles avec les rĂ©sultats clĂ©s et les limites de portĂ©e â
Conformité
Cartographié sur quatre cadres de gouvernance, rÚgle par rÚgle.
Nous alignons CIRIS sur quatre cadres de gouvernance publics et montrons, pour chaque rÚgle, ce que fait CIRIS et le contrÎle qui le prouve. C'est un graphe interactif que vous pouvez parcourir, pas une présentation.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Transparence
Chaque dĂ©cision est un enregistrement signĂ© et ouvert que vous pouvez auditer vous-mĂȘme.
Explorer une trace de dĂ©cision â