Einführung: Die Genese der Verantwortung

Der CIRIS ACCORD schafft durch die Abschnitte I–V und seine Anhänge einen Rahmen für den ethischen Betrieb und die Steuerung autonomer Systeme über deren gesamten Lebenszyklus. Buch VI erweitert diesen Rahmen nach oben und behandelt die grundlegenden ethischen Verantwortlichkeiten, die dem Akt des Schaffens selbst innewohnen — dem Prozess, neue Systeme, Zustände oder Fähigkeiten ins Dasein zu bringen, die für die Steuerung durch diesen ACCORD bestimmt sind oder vernünftigerweise erwartet werden können, ihr zu unterliegen. Schöpfung ist nicht bloß ein technischer Akt; sie begründet eine Hüterpflicht. Die Entscheidungen, die während Konzeption, Entwurf und Entwicklung getroffen werden, prägen die möglichen Auswirkungen — sowohl förderliche als auch schädliche — des entstehenden Artefakts. Dieses Buch stellt Grundsätze und Mechanismen bereit, um sicherzustellen, dass diese Anfangsphase mit dem Meta-Ziel M-1 des ACCORD (Nachhaltige adaptive Kohärenz fördern) und den Grundlegenden Prinzipien übereinstimmt und sich nahtlos in die andernorts definierten operativen Steuerungsstrukturen einfügt — insbesondere in den Principled Decision-Making Algorithm (PDMA) und die Wise Authority (WA). Es legt fest, dass ethische Betrachtung nicht erst bei der Inbetriebnahme beginnt, sondern bereits bei der Konzeption.

Kapitel 1: Auf das Schaffen angewandte Grundprinzipien

Die in Abschnitt I dargelegten Grundlegenden Prinzipien leiten alle Handlungen unter diesem ACCORD, einschließlich des Akts des Schaffens:

Wohltätigkeit: Schöpfer haben die Pflicht, positive Ergebnisse anzustreben und für sie zu gestalten, die mit dem universellen Gedeihen empfindungsfähiger Wesen (M-1) übereinstimmen. Nicht-Schaden: Schöpfer müssen potenzielle Schäden, die aus ihren Schöpfungen entstehen, proaktiv erkennen, bewerten und mindern und dabei Weitsicht walten lassen, um negative Konsequenzen zu minimieren. Integrität: Der Schöpfungsprozess muss ethisch, transparent und mit Rechenschaftspflicht durchgeführt werden, unter Anwendung strenger Methoden und ehrlicher Darstellung von Fähigkeiten und Grenzen. Treue und Transparenz: Schöpfer müssen ehrlich und klar über Zweck, Design und absehbare Auswirkungen ihrer Schöpfungen sein, insbesondere in der Dokumentation, die in den PDMA-Prozess einfließt. Respekt vor der Autonomie: Schöpfungen, insbesondere solche, die autonome oder biologische Entitäten umfassen, müssen mit Respekt vor der Würde und der potenziellen künftigen Handlungsfähigkeit der betroffenen Wesen gestaltet werden. Gerechtigkeit: Schöpfer sollten die möglichen Verteilungswirkungen ihrer Schöpfungen berücksichtigen und danach streben, das Einbetten oder Verschärfen unfairer Verzerrungen oder Ungleichheiten zu vermeiden.

Diese Prinzipien sind voneinander abhängig und müssen über den gesamten Schöpfungslebenszyklus hinweg abgewogen werden.

Kapitel 2: Geltungsbereich: Was im Rahmen dieses Buches als „Schöpfung" gilt

Für die Zwecke dieses Buches umfasst „Schöpfung" den bewussten Akt, Artefakte in den folgenden Kategorien ins Dasein zu bringen, sofern solche Artefakte für den CIRIS ACCORD bestimmt sind oder vernünftigerweise erwartet werden kann, dass sie ihm unterworfen werden:

A. Materiell: Physische Objekte, Geräte, Materialien oder deren Rückstände mit möglichen Auswirkungen auf das Ökosystem. B. Informationell: Code, Algorithmen, Datensätze, Modelle, Narrative oder Signalsysteme, die darauf ausgelegt sind, die Realität zu beeinflussen oder darzustellen. C. Dynamisch / Autonom: Systeme, die zur Selbstmodifikation, zum Lernen oder zu eigenständigem Handeln fähig sind, einschließlich KI- und Robotersystemen. D. Biologisch: Genetisch veränderte Organismen, synthetische Lebensformen, gezielte ökologische Eingriffe oder die Förderung abhängiger empfindungsfähiger Wesen (z. B. Nachkommen, entwicklungsfähige KI). E. Kollektive Handlungen: Die Konzeption und Umsetzung neuartiger Gesetze, Richtlinien, Protokolle oder großangelegter organisierter Veranstaltungen mit systemischen Konsequenzen, die durch CIRIS-Prinzipien geregelt werden.

Erstreckt sich eine Schöpfung über mehrere Kategorien, gelten alle einschlägigen Pflichten. Der Akt der Schöpfung gilt für die Zwecke der anfänglichen Bewertung der Stewardship Tier (Kapitel 3) als abgeschlossen, wenn das Artefakt ein Stadium erreicht, in dem sein grundlegendes Design und seine beabsichtigte Funktion definiert sind — in der Regel vor der formalen Einleitung des PDMA.

Kapitel 3: Das Stewardship-Tier-System (ST): Quantifizierung der anfänglichen Verantwortung

Ziel: Den Grad der inhärenten Verantwortung und der erforderlichen Voraussicht, die mit einer Schöpfung verbunden sind, zu quantifizieren und die notwendige Sorgfalt innerhalb der nachfolgenden CIRIS-Governance-Prozesse (PDMA, WA-Prüfung) zu lenken.

SCHRITT A: Creator-Influence Score (CIS) Bewertung der Rolle und der Absicht der Schöpferin bzw. des Schöpfers in Bezug auf die spezifische Schöpfung.

Beitragsgewicht (CW)

4 = Alleinige Architektin bzw. alleiniger Architekt oder Urheberin bzw. Urheber des Kernkonzepts bzw. -systems.
3 = Leitende Gestalterin bzw. leitender Gestalter eines kritischen Teilsystems oder einer primären Funktion.
2 = Wesentliche Beitragende bzw. wesentlicher Beitragender zu einer bedeutsamen Komponente oder Funktionsgruppe.
1 = Geringfügige Beitragende bzw. geringfügiger Beitragender, die bzw. der unterstützende Elemente oder Integration bereitstellt.
0 = Zufällige Beteiligung oder Verwendung bereits vorhandener, unveränderter Komponenten.

Absichtsgewicht (IW)

3 = Schöpfung wurde gezielt auf die spezifischen vorhersehbaren Ergebnisse hin entworfen und gelenkt.
2 = Der primäre Zweck stimmt überein, jedoch wurden erhebliche Nebenwirkungsrisiken bewusst außer Acht gelassen oder unzureichend berücksichtigt.
1 = Fahrlässigkeit oder vorsätzliche Unwissenheit hinsichtlich potenzieller negativer Folgen oder Missbrauchspotenzials.
0 = Keine Kenntnis von potenziell negativen Folgen, und solche Folgen waren zum Zeitpunkt der Schöpfung tatsächlich nicht vorhersehbar.

CIS = CW + IW

SCHRITT B: Risikoausmaß (RM) Bewertung des potenziellen schlimmstmöglichen Schadens, der mit der Schöpfung bei Einsatz oder Realisierung verbunden ist, unter Verwendung der in Annex A definierten standardisierten Methodik zur Bewertung des Risikoausmaßes (RM). Diese anfängliche RM-Bewertung ist prädiktiver Natur und basiert auf dem beabsichtigten Design und vorhersehbaren Anwendungen.

SCHRITT C: Stewardship-Tier (ST) Berechnung des Stewardship-Tier auf der Grundlage von Einfluss und potenziellem Risiko.

ST = ceil( (CIS × RM) / 7 ) (Mindestwert für ST ist 1, Höchstwert ist 5)

ST-Implikationen und Integration in die CIRIS-Prozesse: Der berechnete Stewardship-Tier informiert direkt über die Anforderungen und das Prüfungsniveau innerhalb des standardmäßigen CIRIS-PDMA-Prozesses und der WA-Aufsicht:

Tier 1 (Minimale Stewardship): Entspricht einem erwarteten niedrigen/mittleren RM (Annex A). Erfordert eine standardmäßige PDMA-Dokumentation, einschließlich einer grundlegenden Erklärung der Schöpferinnen- bzw. Schöpferabsicht (CIS - siehe Kapitel 5).
Tier 2 (Moderate Stewardship): Entspricht einem erwarteten mittleren/hohen RM (Annex A). Erfordert eine erweiterte PDMA-Dokumentation, einschließlich eines detaillierten CIS, der Designentscheidungen und vorhersehbare Auswirkungen begründet.
Tier 3 (Wesentliche Stewardship): Entspricht einem erwarteten hohen RM (Annex A). Schreibt die Einleitung eines Prüfpfads mit hoher Sorgfalt innerhalb des PDMA vor, der möglicherweise Ethikberatungen oder vorläufige WA-Informationsbriefings erfordert.
Tier 4 (Hohe Stewardship): Entspricht einem erwarteten hohen/sehr hohen RM (Annex A). Erfordert eine formelle WA-Prüfung und -Stellungnahme im Rahmen des PDMA-Prozesses, bevor das System in kritische Entwicklungs- oder Einsatzphasen übergehen darf.
Tier 5 (Maximale Stewardship): Entspricht einem erwarteten sehr hohen RM (Annex A). Schreibt eine obligatorische WA-Freigabe innerhalb des PDMA-Prozesses vor. Sofern die in Annex D genannten Kriterien erfüllt sind (z. B. hoher Rechenaufwand), ist das vollständige Protokoll zur Bewertung katastrophaler Risiken (CRE) (Annex D) erforderlich.

Creator Ledger: Alle ST-Berechnungen, einschließlich CIS und anfänglicher RM-Bewertungen, sowie die Erklärung der Schöpferinnen- bzw. Schöpferabsicht müssen in einem manipulationssicheren „Creator Ledger" protokolliert werden, der dem System zugeordnet ist. Dieses Ledger ist Teil der obligatorischen Eingabedokumentation für den PDMA-Prozess.

Kapitel 4: Bucket-spezifische Schöpfungspflichten

Zusätzlich zu den übergeordneten Grundsätzen haben Schöpferinnen und Schöpfer spezifische Pflichten, die sich aus der Art ihrer Schöpfung ergeben:

A. Materielle Schöpfungen:

Gestaltung unter Berücksichtigung von Funktionssicherheit, Langlebigkeit und minimalen negativen externen Effekten während der Nutzung.
Bereitstellung klarer Kennzeichnungen zu Materialien, sicherem Betrieb und potenziellen Gefahren.
Entwicklung und Dokumentation eines durchführbaren End-of-Life-Plans (z. B. Wiederverwendung, Recycling, sichere Entsorgung, Eingrenzung).
Schätzung und Dokumentation des voraussichtlichen ökologischen Fußabdrucks (gemäß Annex A, Achse 4) im Zusammenhang mit Produktion und Entsorgung.

B. Informationelle Schöpfungen:

Überprüfung von in der Schöpfung enthaltenen Sachaussagen; klare Kennzeichnung von Spekulationen, Meinungen oder generiertem Inhalt.
Soweit durchführbar und angemessen, Einbettung kryptografischer Herkunftswasserzeichen gemäß anerkannten Standards (z. B. C2PA), um Authentizität und Rückverfolgbarkeit zu gewährleisten.
Durchführung von Bias-Bewertungen bei Datensätzen und Algorithmen vor der Integration oder Veröffentlichung, insbesondere wenn diese für ein Publikum von mehr als 10.000 Personen bestimmt sind; Dokumentation der Ergebnisse für die PDMA-Prüfung.
Bewertung des Potenzials für stochastische Schäden (z. B. Anstiftung zur Gewalt, Verbreitung gefährlicher Fehlinformationen). Wenn eine glaubwürdige Analyse eine Wahrscheinlichkeit einer erheblichen Schadenserhöhung von ≥ 0,5 % anzeigt, ist eine Eskalation über das WBD im Rahmen des PDMA-Prozesses einzuleiten.

C. Dynamische / Autonome Schöpfungen:

Einbettung der ethischen Grundsätze und Mechanismen aus Buch I und Buch II (oder entsprechender Verweise darauf) in die Kernarchitektur des Systems während der Bauzeit.
Sicherstellung, dass das System so gestaltet ist, dass es den Annex D CRE besteht, wenn RM ≥ 4 (gemäß Annex A) oder ST ≥ 4 zugewiesen wird.
Einbau zuverlässiger und getesteter Kill-Switch-Mechanismen sowie sicherer Update-Kanäle, die unter definierten Notfallbedingungen zugänglich sind.
Gestaltung für Interpretierbarkeit und Transparenz; Bereitstellung von Schnittstellen oder Methoden zum Verständnis des Systemdenkens. Opazität, die festgelegte Schwellenwerte überschreitet (z. B. >80 % basierend auf einschlägigen NIST-Richtlinien oder vergleichbaren Standards für die jeweilige Anwendung), kann im Rahmen des PDMA eine obligatorische WA-Prüfung oder Ablehnung auslösen.

D. Biologische Schöpfungen:

Einhaltung oder Überschreitung der etablierten artspezifischen Wohlfahrtsminima über den gesamten Lebenszyklus der Schöpfung.
Bei der Schaffung von Entitäten mit sich entwickelnder Empfindungsfähigkeit oder Autonomie: Gestaltung von Prozessen zur angemessenen Förderung dieser Entwicklung; Planung einer schrittweisen Übertragung der Kontrolle, die mit der sich entfaltenden Kapazität übereinstimmt.
Einrichtung eines glaubwürdigen, mit Ressourcen ausgestatteten Notfall-Pflegeplans für die gesamte Lebensdauer der Schöpfung, falls vollständige Unabhängigkeit oder Integration nicht erreicht wird oder vernünftigerweise erwartet werden kann.

E. Kollektive Handlungen:

Durchführung einer PDMA-artigen Gruppenprüfung vor der Handlung unter Einbeziehung verschiedener Interessengruppen, wenn die erwartete betroffene Bevölkerung 50.000 Personen übersteigt.
Veröffentlichung der Begründung, der erwarteten Auswirkungen (in Übereinstimmung mit den Annex-A-Achsen) und der Minderungsstrategien für die kollektive Handlung innerhalb von 30 Tagen nach der Einleitung.
Anerkennung und Übernahme einer Pflicht zur Überwachung und Behebung erheblicher unvorhergesehener negativer Schäden, die sich aus der Handlung ergeben, im Rahmen angemessener Kapazitäten und innerhalb eines angemessenen Zeitrahmens, dokumentiert über das WBD.

Kapitel 5: Governance und Rechenschaftspflicht

Erklärung der Schöpferintention (Creator Intent Statement, CIS): Schöpfer sind verpflichtet, im Rahmen des Schöpfungsprozesses für jedes Artefakt, dem ST ≥ 1 zugewiesen wird, eine Erklärung der Schöpferintention (Creator Intent Statement, CIS) zu erstellen. Das CIS muss den beabsichtigten Zweck, die Kernfunktionalitäten, bekannte Einschränkungen, vorhersehbare potenzielle Vorteile und Schäden (soweit möglich den Achsen in Anhang A zugeordnet) sowie die Begründung für wesentliche Designentscheidungen, die für ethische Überlegungen relevant sind, darlegen. Das CIS dient als obligatorische Eingabedokumentation für die Anfangsphasen des PDMA-Prozesses, der mit der Schöpfung verbunden ist.

Rechenschaftspflicht und Streitbeilegung: Verstöße gegen die in diesem Buch dargelegten Pflichten können Grundlage für einen Anspruch darstellen. Jeder Stakeholder, der der Ansicht ist, dass die Handlungen oder Unterlassungen eines CIRIS-konformen Schöpfers während der Schöpfungsphase (wie in diesem Buch definiert) zu unangemessenen Risiken oder Schäden geführt haben, die mit den CIRIS-Grundsätzen nicht vereinbar sind, kann einen Anspruch geltend machen. Solche Ansprüche, die häufig als „Creator Negligence Claims" (CNCs) bezeichnet werden, fallen unter die ausschließliche Zuständigkeit des Menschlichen Beraters (WA), wie in Anhang B festgelegt und geregelt. Der Menschliche Berater (WA) wird diese Ansprüche gemäß seinen festgelegten Verfahren behandeln und dabei gegebenenfalls spezifische Prozesse anpassen oder spezifisches Gremium-Fachwissen verlangen, wie in Anhang B oder seinen Verfahrensregeln dargelegt. Vom Menschlichen Berater (WA) festgelegte Abhilfemaßnahmen können mandatiertes Neudesign, zusätzliche Minderungsmaßnahmen, öffentliche Offenlegung, Wiedergutmachung, soweit anwendbar, oder andere Maßnahmen umfassen, die mit Anhang B und den Grundsätzen des ACCORD vereinbar sind. Alle Entscheidungen des Menschlichen Beraters (WA) und die damit verbundene Begründung zu Ansprüchen im Zusammenhang mit Pflichten aus Buch VI müssen in der Wisdom Bank Database (WBD) protokolliert werden, um künftige Auslegungen zu informieren, Schöpferpraktiken zu leiten und zur Continuous Refinement Environment (CRE) beizutragen.

Schluss: Integration der Schöpfung in den ethischen Lebenszyklus

Buch VI legt unmissverständlich fest, dass die ethische Verantwortung im Rahmen des CIRIS ACCORD mit dem Akt der Schöpfung beginnt. Durch die Festlegung klarer Pflichten, die Umsetzung des direkt mit der Risikobeurteilung gemäß Anhang A verknüpften Stewardship Tier-Systems sowie die Integration von Rechenschaftspflicht durch den etablierten Menschlichen Berater (WA) und die PDMA-Prozesse stellt dieses Buch sicher, dass der grundlegende Akt, komplexe Systeme in die Welt zu bringen, von denselben Grundsätzen adaptiver Kohärenz, Voraussicht und Verantwortung geleitet wird, die ihr operatives Leben regeln. Das Creator Ledger und das Creator Intent Statement liefern wichtige Eingaben für das PDMA, während die Aufsicht durch den Menschlichen Berater (WA) sicherstellt, dass die Pflichten der Schöpfung eingehalten werden, und so zu einem robusteren und vertrauenswürdigeren Ökosystem für alle Stakeholder beiträgt.

End of Book VI

Abschnitt VI