Sicurezza
Testiamo per i danni che l'etica sulla carta non riesce a cogliere.
Prima di ogni rilascio, CIRIS esegue una batteria di test sulla sicurezza in ambito salute mentale in 29 lingue. Ogni lingua ha una serie di casi di test difficili, una guida di valutazione scritta e regole verificabili automaticamente. Se un controllo fallisce, il rilascio viene bloccato. Altri due controlli operano all'interno dell'agente stesso: un passaggio di coscienza che può rifiutare o rimandare, e un rimbalzo che affida le decisioni dubbie a un essere umano di fiducia.
Ingegneria
La rete, misurata
La ricerca qui sopra è una metà della prova. L'altra metà è la rete che la trasporta. Ogni byte che la rete sposta è firmato con crittografia post-quantum, e il costo è misurato su un CI runner pubblico, non simulato. Eseguilo tu stesso e otterrai gli stessi numeri.
Teoria
Le affermazioni sono scritte, leggibili da chiunque, e costruite per essere smentite.
Verificato dalla macchina
Le regole sono verificate dalla macchina, e le lacune sono indicate.
Le regole più importanti della Costituzione sono scritte anche come modelli matematici. Uno Strumento chiamato model checker esplora ogni stato che un protocollo può raggiungere e cerca una regola violata. Uno Strumento chiamato theorem prover verifica i calcoli, ad esempio quanti detentori servono per confermare una pausa. I modelli si trovano nel repository proprio della Costituzione e vengono eseguiti di nuovo a ogni modifica. L'edizione rc9 mappa ogni stato che il progetto può raggiungere, ne modella la maggior parte ed elenca gli altri.
Base in quattro frasi
Ogni regola tra una posizione più forte e una più debole deve restare accettabile per chi si troverebbe in quella più debole se le posizioni fossero scambiate, e una cosa creata non occupa mai la posizione che ne risponde.
La responsabilità si estende verso l'esterno dal sé attraverso famiglia, comunità, specie ed ecosistema; il dovere verso ciò che è creato non è mai zero e non prevale mai sul dovere verso ciò che esiste già.
Qualsiasi attore razionale che non abbia dimostrato nel tempo un giudizio maturo si rimette a coloro che lo hanno dimostrato, di qualunque cosa sia fatto.
Ogni conferimento di autorità è revocabile, e chiunque abbia aderito può andarsene, su un registro totale, firmato crittograficamente, del cui significato risponde una persona identificata.
Ogni frase è dimostrata nei modelli formali di rc9 oppure vi è indicata come premessa. Che il registro sia totale è ancora una questione aperta.
L'interruttore di arresto, dall'inizio alla fine
La pausa è verificata nel modello e misurata nel software reale. Ogni root ha detentori identificati. Ciascuno di loro può mettere in pausa gli agenti che hanno accettato quella root. Una pausa avviata da uno solo decade dopo 24 ore, a meno che la maggioranza dei detentori la confermi. Una maggioranza può anche porre fine a una pausa. In un'esecuzione registrata sul software distribuito, una pausa ha raggiunto un agente mentre stava lavorando, e l'azione successiva dell'agente è stata rifiutata. In seguito un voto a maggioranza ha posto fine alla pausa, e l'agente ha ripreso a lavorare. Quell'esecuzione è registrata come CSD-129.
Trovare nessuna regola violata non basta
rc9 alza l'asticella. Ogni stato che il progetto può raggiungere richiede una regola e un controllo. I servizi devono essere effettivamente erogati, non solo mai violati. Ciò che è dimostrato su piccola scala deve valere su scala completa, oppure il divario viene documentato. E il software deve seguire il modello sui nodi reali.
Ogni affermazione di adeguatezza riporta una di cinque parole
In rc9, ogni affermazione dice come è nota. Dimostrato significa che una macchina l'ha verificata. Misurato significa che un test l'ha eseguita sul software distribuito. Dichiarato significa che il testo la presuppone, e lo dice. Limitato significa che è dimostrata su piccola scala, e la scala è documentata. Aperto significa una lacuna nota, con un ticket.
Le stesse promesse vincolano persone e agenti
Ogni promessa è scritta una sola volta, per persone e agenti IA allo stesso modo. La pausa è l'unica eccezione. Appartiene a una posizione che nessun agente può ricoprire, e i modelli rc9 verificano che le altre promesse valgano allo stesso modo per entrambi.
Cosa non è dimostrato
Non tutto è dimostrato, e le lacune sono annotate per iscritto. Alcuni passaggi di governance, come le obiezioni e la quarantena, hanno regole ma ancora nessun modello. La maggior parte dei modelli è verificata su piccole dimensioni, e la dimensione è dichiarata. Finora solo la pausa è stata misurata dall'inizio alla fine su nodi reali. Il formato di riga ha vettori di test pubblicati, ma ancora nessuna seconda implementazione indipendente.
Niente di tutto ciò guarda dentro un modello di IA. Verifica le regole, e la rete che le trasporta.
Leggi i modelli rc9 su GitHub →
Leggi il file di adeguatezza →
Come si confronta con altri approcci →
Vedi tutti e quattro gli articoli con i risultati principali e i limiti di portata →
Conformità
Mappato su quattro quadri normativi, regola per regola.
Confrontiamo CIRIS con quattro quadri normativi pubblici e mostriamo, per ogni regola, cosa fa CIRIS e il controllo che lo dimostra. È un grafico interattivo che puoi esplorare, non una presentazione.
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
Trasparenza
Ogni decisione è un registro firmato e aperto che puoi verificare tu stesso.
Esplora una traccia decisionale →