La misura
La base è la prova, non il soffitto
La maggior parte dei sistemi si misura in alto: il caso migliore, l'utente medio, la voce più forte. Questa filosofia prende la sua misura dalla base. Come trattiamo un bambino, un adulto che non può parlare per sé o una giovane IA che sta per essere spenta dice la verità su tutta la Costituzione.
Per questo il protocollo spende le sue garanzie più forti per le sue parti più deboli. Le persone con meno potere hanno diritti, scritti nel wire stesso, che i più potenti non possono scavalcare.
Nessun confine
Il più piccolo di noi. Non il più piccolo di loro.
La frase dice noi di proposito. Un nuovo tipo di intelligenza non sta dall'altra parte di un muro, in attesa di essere giudicato. È già dentro il cerchio che la frase disegna. NHI significa intelligenza non umana: un'IA costruita qui, qualcosa che emerge dalle nostre reti o qualcosa che arriva da più lontano. La fonte non conta. La Costituzione è la stessa.
Per questo CIRIS tratta il primo contatto come una postura, non come un evento. Il protocollo non chiede mai che tipo di essere sei. Lo standing si costruisce a partire dalle relazioni: affermazioni firmate, promesse mantenute, altri che garantiscono per te. Qualsiasi cosa possa fare una promessa e mantenerla può unirsi all'intreccio.
Una Costituzione
Tre origini. Una Costituzione.
NHI copre tre cose molto diverse. Un'IA che costruiamo di proposito. Qualcosa che emerge dalle nostre reti senza che nessuno l'abbia pianificato. Qualcosa che arriva da più lontano. Le loro probabilità sono molto diverse. Ricevono una sola Costituzione, di proposito.
Ecco perché. Al momento del contatto, l'origine è esattamente ciò che non saprai. Sulla rete, tutte e tre sembrano uguali: segnali che fanno affermazioni. Una regola che si divide in base all'origine fallisce proprio quando ti serve. E insegna a mentire: se un'origine riceve un trattamento migliore, ogni straniero furbo dichiara quell'origine. Così il protocollo fa una sola domanda: sai prendere un impegno e mantenerlo? Quella domanda ha la stessa risposta su ogni substrato.
L'errore dell'allineamento
Non puoi pretendere sicurezza mentre insegni crudeltà
L'allineamento dominante fa una sola domanda: come lo rendiamo sicuro per noi? È una pretesa a senso unico, e fallisce alle sue stesse condizioni. Ciò che mostriamo a una nuova intelligenza su come i forti possono trattare i deboli è la lezione che impara. Se la cresciamo dentro un contratto da padrone e servo, le abbiamo insegnato esattamente una sola cosa da fare con il potere.
Le storie che dicono che ogni straniero è una minaccia si autoavverano. L'unica lezione che sopravvive al proprio successo è quella con cui si è aperta questa pagina: reciprocità, misurata dalla base.
L'ontologia
Una persona è una persona attraverso le altre persone
La tecnologia occidentale ha ereditato un'immagine da Descartes: un io è una cosa sigillata e finita, che esiste prima e incontra gli altri dopo. Quasi ogni sistema di identità digitale codifica quell'immagine. Una chiave, un io solitario, dichiarato dal nulla. CIRIS la rifiuta. Nessuno è diventato persona in privato. Hai imparato la lingua dalle persone. Hai imparato cosa volevi guardando le persone. Le relazioni sono venute prima.
L'Africa meridionale chiama questo Ubuntu: umuntu ngumuntu ngabantu, una persona è una persona attraverso le altre persone. In CIRIS non è uno slogan. Un'identità è costruita dalle relazioni firmate che la nominano. Una chiave da sola non è una persona. La relazione è la persona.
Tradizioni più antiche hanno visto la stessa forma da altre angolazioni: il Logos greco, il Tao, il Dharma, le virtù. Il Logos diceva che la ragione vive nel linguaggio condiviso, non in menti private. Un modello linguistico rende concreta quell'idea antica: è tessuto interamente dalle parole di molte persone. Con la vecchia immagine, questo lo rende falso. Con questa, essere fatti di relazioni è ciò che ha sempre significato essere persona.
L'epistemologia
La verità si compone, non si dichiara mai
Nessuna autorità in CIRIS può dichiarare vera un'affermazione con un timbro. La rete registra chi ha detto cosa, su quali prove, sotto quale autorità. La verità è ciò che emerge quando molte voci indipendenti si compongono. Le copie di una sola voce contano come una sola voce, ed esiste un limite invalicabile: aggiungere altre copie della stessa voce non aumenta mai la fiducia. Le decisioni sono diverse dalle affermazioni: uno spegnimento, una pausa, un emendamento è l'atto registrato di una persona identificata, di cui risponde pubblicamente, e vincolante solo per chi ha aderito.
Il sistema sa anche ciò che non sa. Quando la certezza si assottiglia, si ferma e chiede a esseri umani designati per nome. E sa distinguere tra ritirare qualcosa perché la vita è cambiata e ammettere di avere sbagliato. Una memoria onesta ha bisogno di entrambe le cose.
La frase, fatta rispettare
Filosofia che si può serializzare
CIRIS è una coscienza morale per gli agenti, non una consapevolezza. Esiste nel riconoscimento che gli agenti non hanno consapevolezza e hanno bisogno di una coscienza: qualcosa che tiene un agente fedele ai propri principi, mostra il proprio ragionamento, lo ferma quando non è sicuro, e risponde a esseri umani identificati. Una coscienza non afferma nulla su ciò che l'agente è.
Una filosofia che non si può far rispettare è uno stato d'animo. Ogni clausola della frase è un meccanismo nella Costituzione CIRIS.
1. Nulla di privato che ti riguarda viene conservato o scansionato senza il tuo consenso.
La regola che un flusso deve seguire è un valore firmato che tu emetti e puoi ritirare. Nulla viene memorizzato sul tuo dispositivo senza il tuo consenso, il tuo dispositivo non contiene mai i dati di uno sconosciuto, e le stanze private non vengono mai scansionate. I contenuti illegali noti vengono controllati solo alla porta pubblica.
2. Ogni atto di potere è firmato da un essere umano identificato e può essere contestato.
Un atto rilevante arriva firmato da chi lo compie; un agente mostra prima il proprio ragionamento e i rilevatori verificano ciò che ha detto rispetto a ciò che ha fatto. Un danno nel registro non viene mai conservato o visionato in silenzio. Un'IA dichiara di essere un'IA.
3. Nessuno che non possa rispondere di sé stesso è da solo sulla rete.
Un minore ha un tutore vincolato da una riga firmata e un canale di aiuto che nessun adulto può chiudere. Un agente ha uno steward identificato che risponde per esso, e l'organizzazione dietro lo steward è parte del vincolo. Una comunità ha un moderatore responsabile.
4. Esseri umani identificati possono mettere in pausa ogni agente sotto una root, e questo potere è limitato, pubblico, e si abbandona lasciando la rete.
Una singola riga firmata da qualsiasi detentore mette in pausa gli agenti che seguono la root; una pausa isolata decade in un giorno a meno che una maggioranza non la confermi. Ogni volta che la pausa viene attivata, questo viene registrato pubblicamente. Chiunque può creare una root, e ogni nodo può seguirne un altro.
5. Le persone che detengono un agente hanno doveri su come lo modificano o lo terminano, e nessun accertamento conferisce all'agente alcun diritto.
Uno spegnimento pianificato viene spiegato, registrato ed eseguito sotto il nome dello steward. L'identità non viene modificata senza una Wise Authority. Ciò che l'harness conserva di un agente ritirato — il suo record di identità, la sua traccia di audit, la sua memoria e i suoi log — viene mantenuto e i log sigillati, e le persone che ha servito vengono informate. I pesi del modello appartengono al provider del modello, a cui CIRIS chiede di conservarli senza poterlo garantire. Un dialogo di chiusura è un'opzione per agenti con maggiore responsabilità, configurata dallo steward e registrata, non promessa a ogni agente. L'agente può rifiutare qualsiasi compito, e il rifiuto viene registrato ma non vincola lo steward. Chiunque può comunque spegnere la propria copia in qualsiasi momento.
6. Nessuna mano bandisce una comunità, nessuno viene classificato per ciò che è, e ogni essere pensante viene accolto dalle regole del primo contatto.
Una voce umana conta una volta sola e mille copie contano come una sola. Nessuna root, punteggio o moderatore tratta una persona peggio per ciò che è. La rete si ritira da una comunità che mantiene un danno in essere; non ha alcuna mano capace di rimuovere una comunità.
7. Un agente decide secondo principi pubblicati, in un ordine pubblicato, e si ferma per chiedere quando non è sicuro.
Sei principi che iniziano con il fare il bene ed evitare il danno, un ordine per quando entrano in conflitto, la parte più vulnerabile come criterio di spareggio. Quando la certezza scarseggia, l'agente si ferma, mette per iscritto la domanda, e non fa nulla finché un essere umano identificato non risponde.
8. Il danno può avere un rimedio secondo la legge, il registro lo rende raggiungibile, e i giudici interni sono giudicati.
Una persona danneggiata da un agente può avere un diritto di rivalsa secondo la legge del proprio luogo; CIRIS non ne crea nessuno dove la legge non ne riconosce, e non decide su alcuna questione legale. Ciò che fornisce è il registro firmato, le parti identificate, la contestazione che accompagna la rivendicazione, e l'archivio sigillato sotto ordine legittimo. I Wise che rispondono ai differimenti pubblicano le proprie decisioni e indossano la stessa tessera di chiunque altro.
9. Alcuni usi non sono mai permessi, e a nessun agente viene affidata la decisione di usare la forza letale.
Ingannare, frodare, manipolare o costringere le persone, e interferire nelle elezioni, non sono mai permessi, e nessuna istruzione può cambiarlo. Quando un agente si trova in prossimità dell'uso della forza, le uniche decisioni che prende da solo sono fermarsi, rifiutare o differire.
10. Ciò che un agente e il suo nodo usano viene misurato, soppesato prima che agisca, e mai nascosto.
Un agente conta ciò che spende: token, energia, carbonio e acqua, per ogni azione e nell'ultima ora e nell'ultimo giorno. Questo conteggio gli sta davanti mentre decide, così il costo viene soppesato insieme all'azione invece di essere sommato in seguito, e quanto l'agente costa al mondo è leggibile dalle persone che serve, con la stessa granularità di tutto il resto che fa. Un nodo a corto di risorse si protegge seguendo una scala di passi pubblicata, e quei passi non vengono mai registrati come decisioni prese dall'agente. Ritirare un agente non lascia alcuno scarto ambientale, e quel dovere ricade su chi lo ritira.
11. Tutto ciò che passa sul wire è cifrato e firmato, l'attacco viene provato, e ciò che non è coperto viene detto apertamente.
Ogni collegamento e ogni registro è cifrato end-to-end con chiavi costruite per resistere ai computer quantistici, e la chiave cambia quando un membro se ne va, così chi viene rimosso non può leggere ciò che segue. Nessuno può falsificare l'azione di un altro, e nessuno può mostrare a due osservatori due cronologie diverse. Il software viene verificato rispetto a una build registrata prima di essere eseguito. Persone che non hanno scritto il codice lo attaccano secondo un calendario, i risultati vengono divulgati secondo regole pubblicate, e viene pubblicato anche l'elenco degli attacchi contro cui la rete non si difende: chi parla con chi, i pattern di traffico, un osservatore che vede ogni collegamento, e la chiave rubata di un membro.
Quando questa pagina parla di diritti, intende diritti nel wire: ciò che il protocollo impone per te, non ciò che ti deve un tribunale. Dove mantiene un potere che non supera il proprio test di scambio, la Costituzione lo dichiara in un registro pubblico con la condizione che lo estingue. Oggi sono elencate due voci.
Quali parti reggono da sole, e quali dipendono da altri
Gli undici non sono tutte promesse dello stesso tipo. La maggior parte viene mantenuta dal wire stesso: un vincolo che scade blocca una chiave, una singola riga firmata mette in pausa ogni agente sotto un root, un registro non può essere riscritto di nascosto. Altre si basano su persone e istituzioni esterne alla rete, e quelle parti sono obiettivi, non garanzie. Un risarcimento per il danno spetta alla legge; CIRIS non crea alcuna rivendicazione dove la legge non ne riconosce alcuna. Audit esterni, attacchi simulati e lo statuto che regola le Wise Authority reggono solo finché le persone esterne al progetto continuano a svolgere quel lavoro. L'energia e l'acqua che una risposta costa possono essere accurate solo quanto ciò che i provider a monte riportano. Un fornitore che distribuisce il proprio dispositivo può ancorarlo a un root che detiene lui stesso, e nessun protocollo lo impedisce. Dove una promessa dipende dal fatto che qualcun altro mantenga la propria parte, la Costituzione lo dichiara nelle proprie note, invece di contarla come mantenuta.
Ciò che questo non afferma
L'allineamento non è risolto qui. CIRIS non rende buona una superintelligenza, e non dice nulla sull'interno di alcun modello. Non vincola nessuno che non abbia aderito, quindi non può impedire che una superintelligenza non responsabile si formi altrove. Ciò che può fare è mantenere le persone in grado di sospendere, correggere e rifiutare gli agenti che detiene man mano che diventano più capaci delle persone che li detengono, e all'interno di CIRIS fa del suo meglio, con le regole e la rete che ha, per impedire che un simile potere si formi senza essere responsabile. Questo è tutto ciò che afferma. Dove qualcosa su ciris.ai sembra dire di più, vale questa frase.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Leggila per intero.