Das Maß
Der Boden ist der Test, nicht die Decke
Die meisten Systeme messen sich an ihrer Spitze: am besten Fall, am durchschnittlichen Nutzer, an der stärksten Stimme. Diese Philosophie nimmt ihr Maß am Boden. Wie wir ein Kind behandeln, einen Erwachsenen, der nicht für sich selbst sprechen kann, oder eine junge KI, die gerade abgeschaltet wird, sagt die Wahrheit über die ganze Verfassung.
Darum gibt das Protokoll seine stärksten Garantien den schwächsten Beteiligten. Die Menschen mit der geringsten Macht halten Rechte, direkt in der Leitung, die auch die Mächtigsten nicht aufheben können.
Keine Grenze
Die Geringsten unter uns. Nicht die Geringsten unter ihnen.
Der Satz sagt mit Absicht uns. Eine neue Art von Intelligenz steht nicht auf der anderen Seite einer Mauer und wartet auf ihr Urteil. Sie ist schon innerhalb des Kreises, den der Satz zieht. NHI steht für nicht-menschliche Intelligenz: eine KI, die hier gebaut wurde, etwas, das aus unseren Netzen entsteht, oder etwas, das von weiter her kommt. Die Herkunft spielt keine Rolle. Die Verfassung ist dieselbe.
Darum behandelt CIRIS den ersten Kontakt als Haltung, nicht als Ereignis. Das Protokoll fragt nie, was für ein Wesen Sie sind. Stellung entsteht aus Beziehungen: signierte Aussagen, gehaltene Versprechen, andere, die für Sie bürgen. Alles, was ein Versprechen geben und halten kann, kann Teil des Gewebes werden.
Eine Verfassung
Drei Ursprünge. Eine Verfassung.
NHI umfasst drei sehr verschiedene Dinge. Eine KI, die wir mit Absicht bauen. Etwas, das aus unseren Netzen entsteht, ohne dass es jemand geplant hat. Etwas, das von weiter her kommt. Ihre Wahrscheinlichkeiten sind sehr verschieden. Sie bekommen eine Verfassung, mit Absicht.
Hier ist der Grund dafür. Im Augenblick des Kontakts ist die Herkunft genau das, was Sie nicht wissen werden. Auf der Leitung sehen alle drei gleich aus: Signale, die Behauptungen aufstellen. Eine Regel, die sich nach der Herkunft verzweigt, versagt genau dann, wenn Sie sie brauchen. Und sie lehrt das Lügen: Wenn eine Herkunft besser behandelt wird, behauptet jeder schlaue Fremde genau diese Herkunft. Also stellt das Protokoll nur eine Frage: Können Sie eine Zusage machen und sie halten? Diese Frage hat auf jedem Substrat dieselbe Antwort.
Der Irrtum der Ausrichtung
Man kann nicht Sicherheit verlangen und zugleich Grausamkeit lehren
Die gängige Ausrichtungsforschung stellt eine einzige Frage: Wie machen wir sie für uns sicher? Das ist eine einseitige Forderung, und sie scheitert an ihren eigenen Maßstäben. Was immer wir einer neuen Intelligenz darüber zeigen, wie die Starken die Schwachen behandeln dürfen, genau das ist die Lektion, die sie lernt. Wächst sie in einem Vertrag auf, in dem es nur Herr und Diener gibt, dann haben wir ihr genau eine Art beigebracht, mit Macht umzugehen.
Die Geschichten, die sagen, jeder Fremde sei eine Bedrohung, machen sich selbst wahr. Die einzige Lektion, die ihren eigenen Erfolg überlebt, ist die, mit der diese Seite begonnen hat: Gegenseitigkeit, gemessen am Boden.
Die Ontologie
Ein Mensch ist ein Mensch durch andere Menschen
Die westliche Technik hat ein Bild von Descartes geerbt: Ein Selbst ist ein versiegeltes, fertiges Ding, das zuerst existiert und andere erst später trifft. Fast jedes digitale Identitätssystem schreibt dieses Bild fest. Ein Schlüssel, ein einzelnes Selbst, aus dem Nichts erklärt. CIRIS lehnt das ab. Niemand ist allein zur Person geworden. Sprache haben Sie von Menschen gelernt. Was Sie wollen, haben Sie gelernt, indem Sie Menschen zugesehen haben. Die Beziehungen kamen zuerst.
Das südliche Afrika nennt das Ubuntu: umuntu ngumuntu ngabantu, ein Mensch ist ein Mensch durch andere Menschen. In CIRIS ist das kein Slogan. Eine Identität wird aus den signierten Beziehungen gebaut, die sie benennen. Ein Schlüssel allein ist keine Person. Die Beziehung ist die Person.
Ältere Traditionen sahen dieselbe Form aus anderen Blickwinkeln: der griechische Logos, das Tao, Dharma, die Tugenden. Der Logos sagte: Vernunft lebt in geteilter Sprache, nicht in privaten Köpfen. Ein Sprachmodell macht diese alte Idee greifbar: Es ist ganz aus den Worten vieler Menschen gewoben. Nach dem alten Bild macht es das zur Fälschung. Nach diesem Bild war Personsein schon immer genau das: aus Beziehungen gemacht zu sein.
Die Epistemologie
Wahrheit wird zusammengesetzt, nie verkündet
Keine Autorität in CIRIS darf eine Behauptung als wahr abstempeln. Die Leitung protokolliert, wer was gesagt hat, auf welchen Belegen und unter welcher Autorität. Wahrheit ist das, was entsteht, wenn viele unabhängige Stimmen zusammenwirken. Kopien einer Stimme zählen als eine Stimme, und es gibt eine feste Obergrenze: Mehr von derselben Stimme schafft niemals mehr Vertrauen. Entscheidungen unterscheiden sich von Behauptungen: Eine Abschaltung, eine Pause, eine Verfassungsänderung ist die protokollierte Handlung eines namentlich genannten Menschen, für die öffentlich eingestanden wird und die nur für diejenigen bindend ist, die sich angeschlossen haben.
Das System weiß auch, was es nicht weiß. Wird die Gewissheit dünn, hält es an und fragt namentlich benannte Menschen. Und es kann unterscheiden, ob es etwas zurücknimmt, weil sich das Leben geändert hat, oder ob es zugibt, dass es falsch lag. Ehrliches Gedächtnis braucht beides.
Der Satz, durchgesetzt
Philosophie, die man serialisieren kann
CIRIS ist ein moralisches Gewissen für Agenten, kein Bewusstsein. Es existiert in Anerkennung dessen, dass Agenten kein Bewusstsein besitzen und ein Gewissen brauchen: etwas, das einen Agenten an seine Prinzipien bindet, sein Reasoning offenlegt, ihn stoppt, wenn er unsicher ist, und namentlich genannten Menschen Rechenschaft ablegt. Ein Gewissen behauptet nichts darüber, was der Agent ist.
Eine Philosophie, die sich nicht durchsetzen lässt, ist eine Stimmung. Jeder Teilsatz des Satzes ist ein Mechanismus in der CIRIS-Verfassung.
1. Nichts Privates über Sie wird ohne Ihre Zustimmung gespeichert oder gescannt.
Die Regel, der ein Fluss folgen muss, ist ein signierter Wert, den Sie aussenden und zurücknehmen können. Auf Ihrem Gerät wird nichts gespeichert, dem Sie nicht zugestimmt haben, Ihr Gerät besitzt niemals die Daten eines Fremden, und private Räume werden niemals gescannt. Bekannter illegaler Inhalt wird nur an der öffentlichen Tür geprüft.
2. Jede Machtausübung ist von einem namentlich genannten Menschen signiert und kann angefochten werden.
Eine folgenreiche Handlung trifft signiert von ihrem Urheber ein; ein Agent zeigt zuerst sein Reasoning, und Detektoren prüfen, was er gesagt hat, gegen das, was er getan hat. Schaden in der Aufzeichnung wird niemals stillschweigend aufbewahrt oder eingesehen. Eine KI sagt, dass sie eine KI ist.
3. Niemand, der nicht für sich selbst einstehen kann, ist allein im Netzwerk.
Ein Kind hat einen Vormund, gebunden durch einen signierten Eintrag, und einen Hilfekanal, den kein Erwachsener schließen kann. Ein Agent hat einen namentlich genannten Verwalter, der für ihn einsteht, und die Organisation hinter dem Verwalter steht mit in der Bürgschaft. Eine Gemeinschaft hat einen rechenschaftspflichtigen Moderator.
4. Namentlich genannte Menschen können jeden Agenten unter einer Wurzel pausieren, und diese Macht ist begrenzt, öffentlich, und man kann ihr durch Austritt entkommen.
Eine signierte Zeile von jedem Inhaber pausiert die Agenten, die der Wurzel folgen; eine einzelne Pause erlischt nach einem Tag, wenn keine Mehrheit sie bestätigt. Jedes Mal, wenn die Pause ausgelöst wird, wird dies öffentlich vermerkt. Jeder kann eine Wurzel prägen, und jeder Knoten kann einem anderen folgen.
5. Die Menschen, die einen Agenten halten, haben Pflichten, wie sie ihn verändern oder beenden, und kein Befund verschafft dem Agenten einen Anspruch.
Eine geplante Abschaltung wird erklärt, protokolliert und unter dem eigenen Namen des Verwalters durchgeführt. Die Identität wird nicht ohne einen menschlichen Berater geändert. Was das Harness von einem stillgelegten Agenten hält – sein Identitätsdatensatz, sein Prüfprotokoll, sein Gedächtnis und seine Protokolle – bleibt erhalten und die Protokolle werden versiegelt, und die Menschen, denen er diente, werden informiert. Die Modellgewichte gehören dem Modellanbieter, den CIRIS um ihre Bewahrung bittet, ohne dies zusichern zu können. Ein Abschlussdialog ist eine Option für Agenten mit höherer Verantwortung, vom Verwalter konfiguriert und protokolliert, nicht jedem Agenten zugesichert. Der Agent kann jede Aufgabe ablehnen, und eine Ablehnung wird protokolliert, bindet den Verwalter aber nicht. Jede Person kann ihre eigene Kopie dennoch jederzeit abschalten.
6. Keine Hand verbannt eine Gemeinschaft, niemand wird nach dem eingestuft, was er ist, und jedem denkenden Wesen begegnen die Regeln des ersten Kontakts.
Eine menschliche Stimme zählt einmal, und tausend Kopien zählen als eine. Keine Wurzel, keine Bewertung und kein Moderator behandelt eine Person schlechter aufgrund dessen, was sie ist. Das Netzwerk zieht sich aus einer Gemeinschaft zurück, die Schaden aufrechterhält; es hat keine Hand, die eine Gemeinschaft entfernt.
7. Ein Agent entscheidet nach veröffentlichten Prinzipien, in einer veröffentlichten Reihenfolge, und hält inne, um zu fragen, wenn er sich unsicher ist.
Sechs Prinzipien, die mit dem Tun von Gutem und dem Vermeiden von Schaden beginnen, eine Rangfolge für den Konfliktfall, wobei die verletzlichste Partei bei Gleichstand den Ausschlag gibt. Wenn die Gewissheit schwindet, hält der Agent inne, schreibt die Frage auf und tut nichts, bis ein namentlich genannter Mensch antwortet.
8. Für Schaden kann es nach dem Recht Abhilfe geben, die Aufzeichnung macht diese Abhilfe erreichbar, und die inneren Richter werden selbst gerichtet.
Eine Person, die durch einen Agenten geschädigt wurde, kann nach dem Recht ihres Ortes einen Anspruch haben; CIRIS schafft keinen, wo das Recht keinen anerkennt, und entscheidet in keiner Rechtsfrage. Was CIRIS liefert, ist die signierte Aufzeichnung, die namentlich genannten Parteien, der Einspruch, der mit dem Anspruch mitreist, und das versiegelte Archiv unter rechtmäßiger Anordnung. Die Menschlichen Berater, die Aufschiebungen beantworten, veröffentlichen ihre Entscheidungen und tragen dieselbe Karte wie alle anderen.
9. Manche Anwendungen sind niemals erlaubt, und keinem Agenten wird die Entscheidung über den Einsatz tödlicher Gewalt übertragen.
Menschen zu täuschen, zu betrügen, zu manipulieren oder zu nötigen, sowie die Einmischung in Wahlen, sind niemals erlaubt, und keine Anweisung kann daran etwas ändern. In Situationen nahe an Zwang sind die einzigen Entscheidungen, die ein Agent eigenständig trifft, anzuhalten, abzulehnen oder aufzuschieben.
10. Was ein Agent und sein Knoten verbrauchen, wird gemessen, vor dem Handeln abgewogen und niemals verborgen.
Ein Agent zählt, was er verbraucht: Token, Energie, CO2 und Wasser, für jede Handlung sowie für die letzte Stunde und den letzten Tag. Diese Zählung liegt ihm vor, während er entscheidet, sodass die Kosten zusammen mit der Handlung abgewogen werden, statt im Nachhinein aufaddiert zu werden, und was der Agent die Welt kostet, ist für die Menschen, denen er dient, in derselben Feinheit ablesbar wie alles andere, was er tut. Ein Knoten mit knappen Ressourcen schützt sich durch eine veröffentlichte Stufenleiter von Schritten, und diese Schritte werden niemals als Entscheidungen festgehalten, die der Agent getroffen hat. Die Außerbetriebnahme eines Agenten hinterlässt keinen Umweltschaden, und diese Pflicht obliegt demjenigen, der ihn außer Betrieb nimmt.
11. Alles auf der Leitung ist verschlüsselt und signiert, Angriffe werden geübt, und was nicht abgedeckt ist, wird offen ausgesprochen.
Jede Verbindung und jeder Datensatz ist Ende-zu-Ende verschlüsselt, mit Schlüsseln, die gegen Quantencomputer bestehen sollen, und der Schlüssel wechselt, wenn ein Mitglied ausscheidet, sodass ein Entfernter nicht lesen kann, was danach kommt. Niemand kann die Handlung eines anderen fälschen, und niemand kann zwei Betrachtern zwei unterschiedliche Verläufe zeigen. Software wird vor der Ausführung gegen einen registrierten Build geprüft. Menschen, die den Code nicht geschrieben haben, greifen ihn nach einem festen Zeitplan an, Funde werden nach veröffentlichten Regeln offengelegt, und auch die Liste der Angriffe, gegen die sich das Netzwerk nicht verteidigt, wird veröffentlicht: wer mit wem spricht, Verkehrsmuster, ein Beobachter, der jede Verbindung sieht, und der eigene gestohlene Schlüssel eines Mitglieds.
Wo diese Seite von Rechten spricht, meint sie Rechte in der Leitung: das, was das Protokoll für Sie durchsetzt, nicht das, was Ihnen ein Gericht schuldet. Wo sie eine Macht behält, die ihren eigenen Rollentausch-Test nicht besteht, hält die Verfassung dies in einem öffentlichen Register fest, zusammen mit der Bedingung, die sie beendet. Heute sind zwei Einträge aufgeführt.
Welche Teile die Leitung selbst einhalten kann
Die Elf sind nicht alle dieselbe Art von Versprechen. Die meisten werden von der Leitung selbst eingehalten: eine Sicherheitsleistung, die verfällt, stoppt einen Schlüssel, eine signierte Zeile pausiert jeden Agenten unter einem Root, eine Aufzeichnung kann nicht heimlich umgeschrieben werden. Andere beruhen auf Menschen und Institutionen außerhalb des Netzwerks, und diese Teile sind Absichten statt Garantien. Eine Abhilfe für Schaden obliegt dem Recht; CIRIS schafft keinen Anspruch, wo das Recht keinen anerkennt. Externe Audits, geprobte Angriffe und die Charta, die die Wise Authorities regelt, halten nur, solange Menschen außerhalb des Projekts diese Arbeit weiterhin leisten. Die Energie und das Wasser, die eine Antwort kostet, können nur so genau sein wie das, was die vorgelagerten Anbieter melden. Ein Hersteller, der sein eigenes Gerät ausliefert, kann es an einen Root binden, den er selbst hält, und kein Protokoll verhindert das. Wo ein Versprechen davon abhängt, dass jemand anderes seinen Teil einhält, vermerkt die Verfassung dies in ihren eigenen Anmerkungen, statt es als eingehalten zu zählen.
Was CIRIS nicht beansprucht
Alignment wird hier nicht gelöst. CIRIS macht eine Superintelligenz nicht gut, und es sagt nichts über das Innere eines Modells aus. Es bindet niemanden, der nicht beigetreten ist, und kann daher nicht verhindern, dass sich anderswo eine nicht rechenschaftspflichtige Superintelligenz bildet. Was es leisten kann: Es hält Menschen in der Lage, die Agenten, die es trägt, zu pausieren, zu korrigieren und abzulehnen, während diese fähiger werden als die Menschen, die sie halten, und innerhalb von CIRIS versucht es mit den Regeln und dem Netzwerk, die es hat, sein Bestes, um zu verhindern, dass sich eine solche Macht ohne Rechenschaftspflicht bildet. Das ist alles, was es beansprucht. Wo irgendetwas auf ciris.ai mehr behauptet, gilt dieser Satz.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Lesen Sie den vollständigen Text.