Introduzione: La Genesi della Responsabilità

Il CIRIS Accord, attraverso le Sezioni I-V e i suoi Annessi, stabilisce un quadro per il funzionamento etico e la governance dei sistemi autonomi nel corso del loro intero ciclo di vita. Il Book VI estende tale quadro a monte, affrontando le responsabilità etiche fondamentali intrinseche al vero e proprio atto della creazione — il processo di portare all'esistenza nuovi sistemi, stati o capacità che siano destinati a ricadere sotto la governance del presente Accord, o che si possa ragionevolmente prevedere lo facciano.

La creazione non è un atto meramente tecnico; essa avvia un dovere di stewardship. Le scelte compiute in fase di concezione, progettazione e sviluppo modellano i potenziali impatti — tanto benefici quanto dannosi — dell'artefatto risultante. Questo Book fornisce principi e meccanismi per assicurare che questa fase iniziale si allinei con il Meta-Obiettivo centrale M-1 (Promuovere la coerenza adattiva sostenibile) e con i Principi Fondamentali dell'Accord, integrandosi senza soluzione di continuità con le strutture di governance operativa definite altrove, in particolare il Principled Decision-Making Algorithm (PDMA) e la Wise Authority (WA). Esso stabilisce che la considerazione etica non ha inizio al momento del deployment, bensì alla sua concezione.

Capitolo 1: Principi Fondamentali Applicati alla Creazione

I Principi Fondamentali articolati nella Sezione I guidano tutte le azioni nell'ambito del presente Accord, compreso l'atto della creazione:

Beneficenza: I creatori hanno il dovere di intendere e progettare per esiti positivi allineati con il fiorire universale degli esseri senzienti (M-1). Non maleficenza: I creatori devono proattivamente identificare, valutare e mitigare i danni potenziali derivanti dalle loro creazioni, applicando la previsione al fine di minimizzare le conseguenze negative. Integrità: Il processo di creazione deve essere condotto in modo etico, trasparente e con responsabilità, impiegando metodi rigorosi e una rappresentazione onesta delle capacità e dei limiti. Fedeltà e Trasparenza: I creatori devono essere veritieri e chiari riguardo allo scopo previsto, alla progettazione e agli impatti prevedibili delle loro creazioni, in particolare nella documentazione che alimenta il processo PDMA. Rispetto per l'Autonomia: Le creazioni, in special modo quelle che coinvolgono entità autonome o biologiche, devono essere progettate nel rispetto della dignità e della potenziale futura capacità d'agire degli esseri coinvolti. Giustizia: I creatori dovrebbero considerare i potenziali effetti distributivi delle loro creazioni, adoperandosi per evitare di incorporare o aggravare pregiudizi o disuguaglianze ingiuste.

Questi principi sono interdipendenti e devono essere bilanciati nel corso dell'intero ciclo di vita della creazione.

Capitolo 2: Ambito: Cosa Costituisce la "Creazione" ai Sensi di questo Book

Ai fini del presente Book, la "Creazione" comprende l'atto deliberato di portare all'esistenza artefatti rientranti nelle seguenti categorie, laddove tali artefatti siano destinati a diventare soggetti al CIRIS Accord o sia ragionevolmente prevedibile che lo diventino:

A. Tangibili: Oggetti fisici, dispositivi, materiali o loro residui con potenziale impatto sull'ecosistema. B. Informazionali: Codice, algoritmi, dataset, modelli, narrazioni o sistemi di segnalazione progettati per influenzare o rappresentare la realtà. C. Dinamici / Autonomi: Sistemi capaci di auto-modificazione, apprendimento o azione indipendente, compresi sistemi di intelligenza artificiale e robotici. D. Biologici: Organismi geneticamente modificati, forme di vita sintetica, interventi ecologici diretti, o la cura di esseri senzienti dipendenti (ad es., prole, intelligenza artificiale in fase di sviluppo). E. Azioni Collettive: La progettazione e l'attuazione di leggi, politiche, protocolli o eventi organizzati su larga scala di carattere innovativo, con conseguenze sistemiche governate dai principi CIRIS.

Se una creazione abbraccia più categorie, si applicano tutti i doveri pertinenti. L'atto di creazione si considera completato ai fini della valutazione iniziale del Stewardship Tier (Capitolo 3) quando l'artefatto raggiunge uno stadio in cui il suo progetto fondamentale e la sua funzione prevista sono definiti, tipicamente prima del formale avvio del PDMA.

Capitolo 3: Sistema dei Livelli di Stewardship (ST): Quantificare la Responsabilità Iniziale

Obiettivo: Quantificare il livello di responsabilità intrinseca e di previsione richiesta associata a una creazione, guidando il rigore necessario nei successivi processi di governance CIRIS (PDMA, revisione WA).

PASSO A: Punteggio di Influenza del Creatore (CIS) Valutare il ruolo e l'intento del creatore rispetto alla creazione specifica.

Peso del Contributo (CW)

4 = Unico architetto o ideatore del concetto/sistema centrale.
3 = Progettista principale di un sottosistema critico o funzione primaria.
2 = Contributore principale a un componente significativo o a un insieme di funzionalità.
1 = Contributore minore che fornisce elementi di supporto o integrazione.
0 = Coinvolgimento incidentale o utilizzo di componenti preesistenti non modificati.

Peso dell'Intento (IW)

3 = Creazione progettata e diretta intenzionalmente verso gli specifici risultati previsti.
2 = Lo scopo primario è allineato, ma rischi significativi di effetti collaterali sono stati consapevolmente ignorati o affrontati in modo inadeguato.
1 = Negligenza o ignoranza volontaria riguardo alle potenziali conseguenze negative o al potenziale di uso improprio.
0 = Inconsapevolezza dei potenziali esiti negativi, e tali esiti erano genuinamente imprevedibili al momento della creazione.

CIS = CW + IW

PASSO B: Magnitudo del Rischio (RM) Valutare il potenziale danno nel caso peggiore associato alla creazione in caso di dispiegamento o realizzazione, utilizzando la metodologia standardizzata di valutazione della Magnitudo del Rischio (RM) definita nell'Annex A. Questa valutazione iniziale della RM è predittiva, basata sul progetto inteso e sulle applicazioni prevedibili.

PASSO C: Livello di Stewardship (ST) Calcolare il Livello di Stewardship sulla base dell'influenza e del rischio potenziale.

ST = ceil( (CIS × RM) / 7 ) (Minimum ST is 1, Maximum ST is 5)

Implicazioni degli ST e integrazione con i Processi CIRIS: Il Livello di Stewardship calcolato informa direttamente i requisiti e il livello di scrutinio all'interno del processo PDMA standard di CIRIS e della supervisione WA:

Tier 1 (Stewardship Minima): Corrisponde a RM Basso/Medio previsto (Annex A). Richiede documentazione PDMA standard, inclusa una Dichiarazione di Intento del Creatore (CIS - vedi Capitolo 5) di base.
Tier 2 (Stewardship Moderata): Corrisponde a RM Medio/Alto previsto (Annex A). Richiede documentazione PDMA potenziata, inclusa una CIS dettagliata che giustifichi le scelte di progettazione e gli impatti previsti.
Tier 3 (Stewardship Sostanziale): Corrisponde a RM Alto previsto (Annex A). Impone l'avvio di un percorso ad alto scrutinio all'interno del PDMA, con potenziale richiesta di consulenze etiche o briefing informativi preliminari alla WA.
Tier 4 (Stewardship Elevata): Corrisponde a RM Alto/Molto Alto previsto (Annex A). Richiede revisione formale della WA e commento all'interno del processo PDMA prima che il sistema possa procedere alle fasi critiche di sviluppo o dispiegamento.
Tier 5 (Stewardship Massima): Corrisponde a RM Molto Alto previsto (Annex A). Impone l'approvazione obbligatoria della WA all'interno del processo PDMA. Se i criteri dell'Annex D sono soddisfatti (ad es., soglia di calcolo elevata), è richiesto il Protocollo completo di Valutazione del Rischio Catastrofico (CRE) (Annex D).

Registro del Creatore: Tutti i calcoli ST, incluse le valutazioni CIS e RM iniziali, insieme alla Dichiarazione di Intento del Creatore, devono essere registrati in un "Registro del Creatore" a prova di manomissione associato al sistema. Tale registro costituisce parte della documentazione di input obbligatoria per il processo PDMA.

Capitolo 4: Doveri Specifici per Categoria di Creazione

Oltre ai principi generali, i creatori hanno doveri specifici in base alla natura della loro creazione:

A. Creazioni Tangibili:

Progettare per la sicurezza funzionale, la durabilità e la minimizzazione delle esternalità negative durante l'utilizzo.
Fornire un'etichettatura chiara riguardo ai materiali, all'uso sicuro e ai potenziali rischi.
Sviluppare e documentare un piano di fine vita praticabile (ad es., riutilizzo, riciclo, smaltimento sicuro, contenimento).
Stimare e documentare l'impronta ecologica prevista (per Annex A, Asse 4) associata alla produzione e allo smaltimento.

B. Creazioni Informazionali:

Verificare le affermazioni fattuali incorporate nella creazione; etichettare chiaramente speculazioni, opinioni o contenuti generati.
Ove fattibile e appropriato, incorporare filigrane crittografiche di provenienza aderenti a standard riconosciuti (ad es., C2PA) per garantire autenticità e tracciabilità.
Condurre valutazioni dei pregiudizi su dataset e algoritmi prima dell'integrazione o del rilascio, specialmente se destinati a pubblici >10.000; documentare i risultati per la revisione PDMA.
Valutare il potenziale di danno stocastico (ad es., istigazione alla violenza, diffusione di disinformazione pericolosa). Se un'analisi credibile indica una probabilità di significativo aumento del danno ≥ 0,5%, escalare tramite WBD durante il processo PDMA.

C. Creazioni Dinamiche / Autonome:

Incorporare i principi etici e i meccanismi dei Libri I e II (o riferimenti a questi) nell'architettura centrale del sistema durante la fase di build.
Garantire che il sistema sia progettato per superare il CRE dell'Annex D se RM ≥ 4 (per Annex A) o se viene assegnato ST ≥ 4.
Incorporare meccanismi di interruzione di emergenza affidabili e testati e canali di aggiornamento sicuri accessibili in condizioni di emergenza definite.
Progettare per l'interpretabilità e la trasparenza; fornire agganci o metodi per comprendere il ragionamento del sistema. Un'opacità superiore alle soglie stabilite (ad es., >80% basata su linee guida NIST pertinenti o standard simili per l'applicazione specifica) può attivare una revisione WA obbligatoria o un diniego durante il PDMA.

D. Creazioni Biologiche:

Rispettare o superare i minimi di benessere stabiliti specifici per specie durante tutto il ciclo di vita della creazione.
Se si creano entità con coscienza o autonomia in sviluppo, progettare processi per promuovere adeguatamente tale sviluppo; pianificare il graduale trasferimento del controllo allineato alla capacità emergente.
Stabilire un piano di cura di riserva credibile e dotato di risorse per l'intero ciclo di vita della creazione qualora non si raggiunga o non sia ragionevolmente attesa la piena indipendenza o integrazione.

E. Azioni Collettive:

Condurre una revisione di gruppo in stile PDMA pre-azione che coinvolga diversi portatori di interesse quando la popolazione prevista interessata supera i 50.000 individui.
Pubblicare la motivazione, gli impatti previsti (allineati agli assi dell'Annex A) e le strategie di mitigazione per l'azione collettiva entro 30 giorni dall'avvio.
Riconoscere e accettare il dovere di monitorare e rimediare i danni negativi imprevisti significativi derivanti dall'azione, entro una capacità e un arco temporale ragionevoli, documentati attraverso il WBD.

Capitolo 5: Governance e Responsabilità

Dichiarazione di Intento del Creatore (CIS): I creatori sono obbligati a produrre una Dichiarazione di Intento del Creatore (CIS) come parte del processo di creazione per qualsiasi artefatto a cui sia assegnato ST ≥ 1. La CIS deve articolare lo scopo inteso, le funzionalità principali, le limitazioni note, i benefici e i danni potenziali previsti (mappati sugli assi dell'Annex A ove possibile), e la motivazione alla base delle scelte progettuali chiave rilevanti per le considerazioni etiche. La CIS costituisce documentazione di input obbligatoria per le fasi iniziali del processo PDMA associato alla creazione.

Responsabilità e Risoluzione delle Controversie: Il mancato adempimento dei doveri delineati in questo Libro può costituire motivo di reclamo. Qualsiasi portatore di interesse che ritenga che le azioni o le omissioni di un creatore conforme a CIRIS durante la fase di creazione (come definita in questo Libro) abbiano condotto a un rischio o danno indebito, incompatibile con i principi CIRIS, può presentare un reclamo. Tali reclami, spesso definiti "Reclami per Negligenza del Creatore" (CNC), rientrano nella giurisdizione esclusiva della Wise Authority (WA), come stabilito e disciplinato dall'Annex B. La WA gestirà tali reclami secondo le proprie procedure consolidate, adattando potenzialmente processi specifici o richiedendo una specifica competenza del panel come delineato nell'Annex B o nelle sue norme procedurali. I rimedi determinati dalla WA possono includere la riprogettazione obbligata, misure di mitigazione aggiuntive, divulgazione pubblica, restituzione ove applicabile, o altre azioni coerenti con l'Annex B e i principi dell'Accord. Tutte le sentenze della WA e le relative motivazioni concernenti i reclami relativi ai doveri del Libro VI devono essere registrate nel Wisdom Bank Database (WBD) per informare le interpretazioni future, guidare le pratiche dei creatori e contribuire al Continuous Refinement Environment (CRE).

Conclusione: Integrare la Creazione nel Ciclo di Vita Etico

Il Libro VI stabilisce fermamente che la responsabilità etica ai sensi del CIRIS Accord ha inizio nel momento della creazione. Definendo doveri chiari, implementando il sistema dei Stewardship Tier direttamente collegato alla valutazione del rischio dell'Annex A, e integrando la responsabilità attraverso i processi consolidati della Wise Authority (WA) e del PDMA, questo Libro garantisce che l'atto fondativo di portare sistemi complessi nel mondo sia guidato dagli stessi principi di coerenza adattiva, lungimiranza e responsabilità che ne governano la vita operativa. Il Creator Ledger e la Dichiarazione di Intento del Creatore forniscono input cruciali al PDMA, mentre la supervisione della WA assicura che i doveri della creazione siano rispettati, contribuendo a un ecosistema più solido e degno di fiducia per tutti i portatori di interesse.

Fine del Libro VI

Sezione VI