Sicherheit
Wir testen auf Schäden, die papierbasierte Ethik nicht erkennt.
Vor jedem Release führt CIRIS eine Sicherheitsprüfung im Bereich psychische Gesundheit in 29 Sprachen durch. Jede Sprache hat feste Testfälle, eine schriftliche Bewertungsanleitung und maschinell prüfbare Regeln. Schlägt eine Prüfung fehl, wird das Release blockiert. Zwei weitere Schutzebenen laufen direkt im Agenten: ein Gewissenscheck, der ablehnen oder aufschieben kann, und eine Weiterleitung zweifelhafter Entscheidungen an einen erfahrenen Menschen.
Technik
Das Netzwerk, gemessen
Die obige Forschung ist eine Hälfte des Beweises. Die andere Hälfte ist das Netzwerk, das sie trägt. Jedes Byte, das das Netzwerk bewegt, ist post-quantum-signiert, und die Kosten werden auf einem öffentlichen CI-Runner gemessen, nicht modelliert. Führen Sie es selbst aus, und Sie erhalten dieselben Zahlen.
Theorie
Die Aussagen sind schriftlich festgehalten, für jeden lesbar und darauf ausgelegt, widerlegt werden zu können.
Maschinell geprüft
Regeln werden maschinell getestet, Lücken werden benannt.
Die wichtigsten Regeln der Verfassung sind auch als mathematische Modelle geschrieben. Ein Werkzeug namens Model Checker durchläuft jeden Zustand, den ein Protokoll erreichen kann, und sucht nach einer verletzten Regel. Ein Werkzeug namens Theorem Prover prüft die Arithmetik, zum Beispiel wie viele Inhaber es braucht, um eine Pause zu bestätigen. Die Modelle liegen im eigenen Repository der Verfassung und werden bei jeder Änderung erneut ausgeführt. Die rc9-Edition erfasst jeden Zustand, den der Entwurf erreichen kann, modelliert die meisten davon und listet den Rest auf.
Grundlage in vier Sätzen
Jede Regel zwischen einer stärkeren und einer schwächeren Position muss auch für diejenige akzeptabel bleiben, die bei vertauschten Positionen in der schwächeren stünde, und ein gemachtes Ding besetzt nie die Position, die für es einsteht.
Verantwortung reicht vom Selbst nach außen über Familie, Gemeinschaft, Art und Ökosystem; die Pflicht gegenüber dem Gemachten ist niemals null und überwiegt niemals die Pflicht gegenüber dem bereits Bestehenden.
Jeder Reasoning-Akteur, der über einen Zeitraum kein reifes Urteilsvermögen nachgewiesen hat, ordnet sich denen unter, die dies getan haben, unabhängig davon, woraus er besteht.
Jede Übertragung von Befugnissen ist widerrufbar, und jede beigetretene Person darf austreten, auf Grundlage eines vollständigen, kryptografisch signierten Protokolls, für dessen Bedeutung ein namentlich benannter Mensch einsteht.
Jeder Satz ist in den formalen Modellen von rc9 entweder bewiesen oder dort als Prämisse benannt. Dass das Protokoll vollständig ist, ist noch offen.
Abschaltfunktion, Ende zu Ende
Die Pause ist im Modell geprüft und auf realer Software gemessen. Jede Wurzel hat namentlich genannte Inhaber. Jeder von ihnen kann die Agenten pausieren, die diese Wurzel akzeptiert haben. Eine einzelne Pause verfällt nach 24 Stunden, sofern nicht eine Mehrheit der Inhaber sie bestätigt. Eine Mehrheit kann eine Pause auch beenden. In einem aufgezeichneten Durchlauf auf der ausgelieferten Software erreichte eine Pause einen Agenten während seiner Arbeit, und die nächste Aktion des Agenten wurde verweigert. Später beendete eine Mehrheitsabstimmung die Pause, und der Agent arbeitete wieder. Dieser Durchlauf ist als CSD-129 aufgezeichnet.
Keine gebrochene Regel zu finden genügt nicht
rc9 legt die Messlatte höher. Jeder Zustand, den der Entwurf erreichen kann, braucht eine Regel und eine Prüfung. Dienste müssen tatsächlich erbracht werden, nicht nur niemals verletzt werden. Was bei kleiner Größe bewiesen ist, muss auch bei voller Größe gelten, oder die Lücke wird festgehalten. Und die Software muss dem Modell auf realen Knoten folgen.
Jede Adäquanzaussage trägt eines von fünf Wörtern
In rc9 sagt jede Behauptung, woher sie bekannt ist. Bewiesen bedeutet, eine Maschine hat sie geprüft. Gemessen bedeutet, ein Test hat sie auf der ausgelieferten Software ausgeführt. Festgestellt bedeutet, der Text setzt sie voraus und sagt dies. Begrenzt bedeutet, sie ist bei kleiner Größe bewiesen, und die Größe ist festgehalten. Offen bedeutet eine bekannte Lücke, mit Ticket.
Gleiche Versprechen für Menschen und Agenten
Jedes Versprechen ist einmal geschrieben, für Menschen und KI-Agenten gleichermaßen. Die Pause ist die einzige Ausnahme. Sie gehört zu einer Position, die kein Agent innehaben darf, und die rc9-Modelle prüfen, dass die übrigen Versprechen für beide gleichermaßen gelten.
Was nicht bewiesen ist
Nicht alles ist bewiesen, und die Lücken sind aufgeschrieben. Manche Governance-Schritte, wie Einwände und Quarantäne, haben Regeln, aber noch kein Modell. Die meisten Modelle werden bei kleinen Größen geprüft, und die Größe wird angegeben. Bisher wurde nur die Pause Ende-zu-Ende auf realen Knoten gemessen. Das Zeilenformat hat veröffentlichte Testvektoren, aber noch keine zweite, unabhängige Implementierung.
Nichts davon blickt in ein KI-Modell. Es prüft die Regeln und das Netzwerk, das sie trägt.
Rc9-Modelle auf GitHub lesen →
Vergleich mit anderen Ansätzen →
Compliance
Vier Governance-Rahmenwerke, Regel für Regel abgeglichen.
Wir vergleichen CIRIS mit vier öffentlichen Governance-Rahmenwerken und zeigen für jede Regel, was CIRIS tut und welche Prüfung das belegt. Es ist eine interaktive Karte zum Durchsuchen, keine Folie.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Transparenz