← 返回首页

1. 01

   担忧是什么

   我们正在构建无法审计的智能体。它们受一家公司可以随时改写的规则约束，运行在外人看不见的系统里。我们被要求信任这个实验室。

2. 02

   它怎么运作

   CIRIS 把 AI 放进一个网络，让它的每个行为都成为有签名的记录。一个人、一个 AI、一个组织都使用同一种身份，接受同样的约束。

3. 03

   什么会改变

   这并不能让 AI 变好，也不说明模型内部发生了什么。它所做的是，让持有智能体的人能够暂停它、纠正它和拒绝它，并让您可以核查签名，而不是只看新闻稿。

4. 04

   然后呢

   它只约束加入者，因此无法阻止在别处形成无人负责的超级智能。在 CIRIS 内部，它会用已有的规则和网络尽最大努力，防止这种力量在无人负责的情况下形成。同样的已签名记录，与您手机上的 AI 运行在同样的私有底层之上。