Superalignment

L'IA sta superando chiunque ne sia responsabile.

01
La paura
Stiamo costruendo menti che non possiamo controllare. Sono governate da regole che un'azienda può riscrivere, dentro sistemi che nessuno fuori da quell'azienda può vedere. Ci viene chiesto di fidarci del laboratorio.
02
Come funziona
CIRIS mette l'IA dentro una rete dove ogni azione che compie è un registro firmato. Una persona, un'IA e un'organizzazione hanno tutti lo stesso tipo di identità, e tutti rispondono allo stesso modo.
03
Cosa cambia
Tenere l'IA onesta smette di essere una politica che un'azienda spera di rispettare. Diventa qualcosa che la rete fa rispettare. Non ti fidi del comunicato stampa. Leggi le firme.
04
E poi
Una rete che può rendere responsabile un'IA sovrumana è, per la sua forma, un internet senza centro. Gli stessi registri firmati permettono a chiunque di verificare cosa è vero, e girano sullo stesso substrato privato dell'IA sul tuo telefono.

Quattro paure, un unico fondamento. Togli il centro di cui sei costretto a fidarti, e tutti e quattro cambiano insieme.

Lo stesso fondamento, visto dalle altre porte