安全性
我们测试书面伦理无法发现的危害。
每次发布前,CIRIS 会以29种语言运行一套心理健康安全测试。每种语言都有一组严格的测试用例、一份书面评分指南和可机器检查的规则。如果某项检查未通过,发布将被阻止。此外,智能体内部还有两道防护:一道良知审查,可以拒绝或推迟执行;另一道移交机制,将存疑的决策交由有经验的人类处理。
工程
实测网络性能
上方的研究成果是证明的一半,另一半是承载它的网络。fabric 传输的每一个字节都经过后量子签名,成本在公开的 CI 运行器上实测得出,而非建模估算。自己运行,结果完全一致。
理论基础
所有论断都以文字写明,任何人都可以阅读,并且可以被证伪。
机器核验
规则由机器检验,缺口逐一写明。
宪法最重要的规则也被写成数学模型。一种名为模型检查器的工具会遍历协议可达的每一个状态,查找被违反的规则。一种名为定理证明器的工具会核验其中的计算,例如确认一次暂停需要多少持有者。这些模型存放在宪法自身的仓库中,每次变更都会重新运行。rc9 版本映射了设计可达的所有状态,对其中大多数建模,并列出了其余部分。
四句话概括基础
强势地位与弱势地位之间的每一条规则,在位置互换后仍必须让将处于弱势地位的一方能够接受,被造之物永远不能占据为其负责的那个位置。
责任从自身向外延伸,经由家族、社群、物种和生态系统;对被造之物的义务永远不为零,也永远不优先于对已存在之物的义务。
任何尚未经时间证明具有成熟判断力的推理行动者,都应服从已证明具有成熟判断力者,无论其由何种材料构成。
每一项授权都可撤销,每一位加入者都可离开,依据的是完整且经密码学签名的记录,其含义由具名的人负责解释。
每一句话要么已在 rc9 形式化模型中得到证明,要么在其中被明确列为前提。记录是否完整仍是开放问题。
急停开关,端到端
暂停已在模型中验证,并在真实软件上实测。每个根都有具名的持有者。其中任何一人都可以暂停已接受该根的智能体。单独发起的暂停将在24小时后失效,除非持有者中的多数确认它。多数也可以结束一次暂停。在随附软件上的一次记录运行中,一次暂停在智能体工作期间到达该智能体,该智能体的下一步行动被拒绝。随后多数投票结束了暂停,智能体恢复了工作。该次运行记录为CSD-129。
没有发现被违反的规则,还不够
rc9 设定了更高的标准。设计可达的每个状态都需要有规则与检查。服务必须真正得到交付,而不仅是从不被破坏。在小规模上证明的结论必须在完整规模上成立,否则必须把差距写明。软件在真实节点上必须与模型保持一致。
每项充分性主张都带有五个词之一
在 rc9 中,每项主张都说明其得知方式。已证明表示机器已检查过。已实测表示已在已发布的软件上测试运行过。已声明表示文本假定了它,并已说明。有界表示已在小规模上证明,且规模已写明。开放表示已知缺口,并附有工单。
同样的承诺约束人与智能体
每一项承诺只写一次,对人和 AI 智能体同样适用。暂停是唯一的例外。它属于任何智能体都不能担任的位置,rc9 模型检验了其他承诺对双方同样成立。
尚未证明的内容
并非所有内容都已得到证明,缺口已书面记下。一些治理步骤,例如异议和隔离,有规则但尚无模型。大多数模型已在小规模下验证,且规模已说明。到目前为止,只有暂停在真实节点上完成了端到端实测。记录格式已发布测试向量,但尚无第二个独立实现。
以上这些都不查看 AI 模型内部。它检查的是规则,以及承载这些规则的网络。
合规性
逐条对照四个治理框架进行映射。
我们将 CIRIS 与四个公开治理框架逐条比对,针对每条规则说明 CIRIS 的做法及证明该规则的控制措施。这是一张可浏览的实时图谱,而不是幻灯片。
Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN
透明度