Ein Risiko in unserem eigenen Design
Wo crowdgesourcte Sicherheit abrutschen kann.
Ein crowdgesourctes Sicherheitssystem kann, wenn wir nicht aufpassen, zu etwas anderem werden. Dieselbe Maschinerie, die echte Verstöße erkennt, kann zur Maschinerie werden, die Vorlieben durchsetzt. Wir sehen dieses Risiko in der Architektur, die wir aufbauen. Es zu benennen ist der erste Schritt, ihm zu widerstehen.
Der Fehlermodus, der uns Sorgen macht
Wenn Menschen für jeden Einzelfall ein crowdgesourctes Urteil sprechen ("hat diese konkrete Antwort die Regel gebrochen?"), schleicht sich Voreingenommenheit in jede Auslegung ein. Dasselbe Verhalten wird je nachdem, wer heute abstimmt, unterschiedlich bewertet. Selbst mit guten Absichten gleitet der Kreislauf dazu über, die Vorlieben der Mehrheit durchzusetzen, anstatt echten Schaden zu erkennen.
Das ist der Fehlermodus. Die Disziplin, der wir uns verpflichten, soll diese Verschiebung sichtbar und kostspielig machen, wenn sie eintritt.
Regeln werden crowdgesourct. Urteile werden maschinell gefällt.
Menschen schlagen Regeln vor und stimmen darüber ab: öffentlich, datiert, signiert, umkehrbar. Eine deterministische Prüfung wendet diese Regeln auf konkrete Fälle an. Gleiche Antwort + gleiche Regel → gleiches Urteil, jedes Mal. Das Argument verlagert sich vorgelagert, dahin, ob die Regel existieren sollte, statt nachgelagert, ob ein bestimmter Fall heute zutrifft.
Was das in der Praxis bedeutet
Regeln müssen ein Operationssprachen-Gate bestehen, bevor sie zur Abstimmung gestellt werden können. Eine Regel muss ohne Beurteilung prüfbar sein, sonst ist sie noch nicht bereit. Jede Regel ist datiert, signiert und versioniert. Das Urteil zu einer konkreten Antwort wird deterministisch erzeugt.
Stellt sich ein Urteil als falsch heraus, geht der Einspruch durch Nachprüfung durch eine neue Prüfgruppe (die ursprünglichen Beurteilenden sind befangen), nicht zurück an dieselbe Gruppe, die das Urteil gefällt hat. Diese strukturelle Trennung ist das tragende Element.
Wo das dennoch schiefgehen kann
Das ist nicht automatisch. Die Disziplin hält nur, wenn die Regelsprache operational bleibt, also über Dinge, die eine Maschine prüfen kann, nicht über Gefühle. In dem Moment, in dem eine Regel von "verwendet das falsche Wort für Therapie" zu "klingt respektlos" abrutscht, kommt menschliche Auslegung durch die Hintertür wieder herein und die Verschiebung beginnt. Die Architektur benennt jeden Mechanismus, der dem widersteht; die eigentliche Arbeit, die Linie zu halten, ist operativ, nicht architektonisch.
Die Crowdsourcing-Primitiven, die Einspruchspfade und das maschinenlesbare Regelformat leben in der CIRISNodeCore-Spezifikation. Die 29-sprachigen Batterien für psychische Gesundheit sind die erste Zelle, in der der Kreislauf läuft.