Superalignment
La IA va más rápido que cualquiera que pueda responder por ella.
- 01
El miedo
Estamos construyendo mentes que no podemos auditar. Las gobiernan reglas que una empresa puede reescribir, dentro de sistemas que nadie fuera de esa empresa puede ver. Se nos pide que confiemos en el laboratorio.
- 02
Cómo funciona
CIRIS pone la IA dentro de una red donde cada acción que realiza es un registro firmado. Una persona, una IA y una organización llevan el mismo tipo de identidad, y todas responden ante el mismo criterio.
- 03
Qué cambia
Mantener la IA honesta deja de ser una política que una empresa espera que se cumpla. Se convierte en algo que la red hace cumplir. No confías en el comunicado de prensa. Lees las firmas.
- 04
Y después
Una red que puede hacer responsable a una IA sobrehumana es, por su forma, un internet sin centro. Los mismos registros firmados permiten que cualquiera verifique qué es verdad, y corren sobre la misma base privada que la IA en tu teléfono.
Cuatro miedos, un mismo suelo. Elimina el centro en el que estás obligado a confiar, y los cuatro cambian a la vez.
El mismo suelo, visto desde las otras puertas