超级对齐
AI 的发展速度已经超过了任何负责任的人。
- 01
担忧是什么
我们正在构建无法审计的智能体。它们受一家公司可以随时改写的规则约束,运行在外人看不见的系统里。我们被要求信任这个实验室。
- 02
它怎么运作
CIRIS 把 AI 放进一个网络,让它的每个行为都成为有签名的记录。一个人、一个 AI、一个组织都使用同一种身份,接受同样的约束。
- 03
什么会改变
让 AI 保持诚实,不再是某家公司希望能维持的一项政策,而是网络本身来执行的事情。你不用信任新闻稿,你可以读签名。
- 04
然后呢
一个能让超级 AI 负责的网络,从其结构来说,就是一个没有中心的互联网。同样的签名记录让任何人都能核实真相,它们运行在和你手机上那个私人 AI 相同的底层上。
四种担忧,同一个基础。去掉那个你被迫信任的中心,四件事同时改变。
同一个基础,从其他门看过去