Die Mathe-Seite
Von Beweissoftware geprüft
Die Idee
Fünf Prüfungen, die alle voneinander kopieren, sind eigentlich eine Prüfung.
Stellen Sie sich vor, fünf Personen prüfen eine Antwort und alle fünf stimmen zu. Das fühlt sich sicher an. Aber wenn alle fünf es aus derselben Quelle gelernt haben, ist ihre Übereinstimmung keine fünf Meinungen. Es ist eine Meinung, fünfmal wiederholt. Die Anzahl der Prüfungen sieht wie fünf aus. Die echte Zahl ist eins.
Das ist wichtig für KI. Ein KI-System kann viele Prüfungen seines eigenen Reasonings durchführen und trotzdem getäuscht werden, wenn diese Prüfungen denselben blinden Fleck teilen. Coherence Collapse Analysis ist die Methode, mit der CIRIS den Unterschied zwischen echten Prüfungen und Echos erkennt.
Die eine Formel
Die Prüfungen zählen, die man wirklich hat.
Im Kern steht eine einzige kurze Formel. Sie stammt aus der Umfragestatistik, wo sie Kish-Designeffekt heißt, und dieselbe Form taucht in der Wahltheorie und in der Sicherheitstechnik auf. CIRIS wendet sie auf KI-Alignment an.
real checks = checks / (1 + copying × (checks − 1))
„Checks“ ist die Anzahl der durchgeführten Prüfungen. „Copying“ ist das Ausmaß der Überschneidung, von 0 (alle unabhängig) bis 1 (alle gleich). Das Ergebnis ist die Anzahl der Prüfungen, die man wirklich hat.
Kein Kopieren: zehn Prüfungen zählen nur dann als zehn, wenn jede eine separate Prüfung ist.
Vollständiges Kopieren: zehn Prüfungen zählen als eine. Es spielt keine Rolle, wie viele man hinzufügt.
Am echten Datenverkehr
Das wurde gemessen, nicht nur argumentiert.
CIRIS hat die Anzahl echter Prüfungen am eigenen Live-Agenten-Datenverkehr gemessen, über Tausende aufgezeichneter Entscheidungen. Bei gesundem Datenverkehr lag sie im Bereich von etwa sieben bis neun wirklich unabhängigen Prüfungen. Diese Messung und ihre Methode sind in der Constrained Reasoning Chains-Studie beschrieben. Sie können die Live-Zahlen auf der Forschungsseite beobachten.
Die ehrliche Obergrenze
Was diese Mathematik nicht kann.
Das Paper beweist eine harte Grenze für sich selbst. Manche Arten von Schaden entstehen nicht durch ein unehrliches Teil. Sie entstehen durch ehrliche Teile, die sich zu einem schlechten Ergebnis addieren, und das Paper beweist, dass ein Teil dieses Schadens für jede Prüfung unsichtbar bleibt, die nur auf die Teile schaut, egal wie gut sie ist. CIRIS sagt das klar, anstatt so zu tun, als ob die Mathematik alles abfangen würde.
Was das System wirklich verspricht, ist die Aufzeichnung. Jede Entscheidung hinterlässt einen signierten Beleg, der sich nicht still umschreiben lässt. Eine Lüge muss also mit Tausenden Belegen zusammenpassen, die sie nie löschen kann. Diese Belege gut zu lesen ist offene Arbeit, und das sagen wir auch. Die Bücher bleiben so oder so wahr.
Wie es zusammenpasst
Die Mathematik ist ein Teil eines größeren Ganzen.
Diese Seite ist die Messung. Die Kohärenz-Ratsche ist, wie die Messung eingesetzt wird. Die Föderation ist, wie sie zu etwas wird, das viele Systeme teilen. Und die vollständigen Beweise, so geschrieben, dass ein Computer sie Zeile für Zeile prüfen kann, stecken im Paper und im RATCHET-Repository.