Superalignment
A IA está correndo mais rápido do que qualquer um que responde por ela.
- 01
O medo
Estamos construindo mentes que não conseguimos auditar. Elas são governadas por regras que uma empresa pode reescrever, dentro de sistemas que ninguém de fora pode ver. Somos pedidos para confiar no laboratório.
- 02
Como funciona
CIRIS coloca a IA dentro de uma rede onde cada ação que ela toma é um registro assinado. Uma pessoa, uma IA e uma organização carregam o mesmo tipo de identidade, e todas respondem da mesma forma.
- 03
O que muda
Manter a IA honesta deixa de ser uma política que uma empresa espera que funcione. Passa a ser algo que a própria rede garante. Você não confia no comunicado de imprensa. Você lê as assinaturas.
- 04
E então
Uma rede que pode responsabilizar uma IA sobre-humana é, por sua natureza, uma internet sem centro. Os mesmos registros assinados permitem que qualquer pessoa verifique o que é verdade, e rodam na mesma base privada que a IA do seu celular.
Quatro medos, uma base. Remova o centro no qual você é forçado a confiar, e os quatro mudam de uma vez.
A mesma base, vista pelas outras portas