Superalignement

L'IA va plus vite que quiconque peut en être responsable.

01
La peur
Nous construisons des esprits que nous ne pouvons pas auditer. Ils sont gouvernés par des règles qu'une seule entreprise peut réécrire, dans des systèmes que personne en dehors de cette entreprise ne peut voir. On nous demande de faire confiance au laboratoire.
02
Comment ça marche
CIRIS place l'IA dans un réseau où chaque action qu'elle prend est un enregistrement signé. Une personne, une IA et une organisation portent tous le même type d'identité, et tous rendent compte de la même façon.
03
Ce qui change
Garder l'IA honnête cesse d'être une politique qu'une entreprise espère tenir. Cela devient quelque chose que le réseau impose. Vous ne faites pas confiance au communiqué de presse. Vous lisez les signatures.
04
Et ensuite
Un réseau capable de tenir une IA surhumaine responsable est, par sa forme même, un internet sans centre. Les mêmes enregistrements signés permettent à n'importe qui de vérifier ce qui est vrai, et ils tournent sur le même substrat privé que l'IA sur votre téléphone.

Quatre peurs, un seul socle. Supprimez le centre auquel vous êtes forcé de faire confiance, et les quatre changent en même temps.

Le même socle, vu depuis les autres portes