CIRIS
本页面由机器翻译。 如有任何读起来不通顺的地方,请在 GitHub 上提交 issue。代码库是公开的,任何人都可以帮忙修正。 报告翻译问题

← 返回首页

证明

核查,而不是相信我们。

安全性、工程实现、理论基础、合规性和透明度,每一项你都可以自己打开来查看,不需要靠相信我们说的话。

161.9 µs
后量子身份验证 measured
2.24 GiB/s
每核加密速度 measured
99.6%
33% 丢包时仍可恢复 measured
13 / 0 / 44
合规测试通过/失败 measured
1 : 10
服务器与人的比例 model

我们测试书面伦理无法发现的危害。

每次发布前,CIRIS 会以29种语言运行一套心理健康安全测试。每种语言都有一组严格的测试用例、一份书面评分指南和可机器检查的规则。如果某项检查未通过,发布将被阻止。此外,智能体内部还有两道防护:一道良知审查,可以拒绝或推迟执行;另一道移交机制,将存疑的决策交由有经验的人类处理。

阅读引擎源码 →

实测网络性能

上方的研究成果是证明的一半,另一半是承载它的网络。fabric 传输的每一个字节都经过后量子签名,成本在公开的 CI 运行器上实测得出,而非建模估算。自己运行,结果完全一致。

2,374 / s
单 CPU 核心每秒处理的后量子签名事件数 measured
0
400 节点间的跨组数据泄露次数 measured
2.6 GiB/s
每核心端到端加密吞吐量 measured
97.6%
在 20% 持有者离线时语料库仍可重建的比例 measured

查看全部实测数据,并自行复现 →

查看持续验证矩阵(15,000+ 项测试) →

所有论断都以文字写明,任何人都可以阅读,并且可以被证伪。

规则由机器检验,缺口逐一写明。

宪法最重要的规则也被写成数学模型。一种名为模型检查器的工具会遍历协议可达的每一个状态,查找被违反的规则。一种名为定理证明器的工具会核验其中的计算,例如确认一次暂停需要多少持有者。这些模型存放在宪法自身的仓库中,每次变更都会重新运行。rc9 版本映射了设计可达的所有状态,对其中大多数建模,并列出了其余部分。

强势地位与弱势地位之间的每一条规则,在位置互换后仍必须让将处于弱势地位的一方能够接受,被造之物永远不能占据为其负责的那个位置。

责任从自身向外延伸,经由家族、社群、物种和生态系统;对被造之物的义务永远不为零,也永远不优先于对已存在之物的义务。

任何尚未经时间证明具有成熟判断力的推理行动者,都应服从已证明具有成熟判断力者,无论其由何种材料构成。

每一项授权都可撤销,每一位加入者都可离开,依据的是完整且经密码学签名的记录,其含义由具名的人负责解释。

每一句话要么已在 rc9 形式化模型中得到证明,要么在其中被明确列为前提。记录是否完整仍是开放问题。

急停开关,端到端

暂停已在模型中验证,并在真实软件上实测。每个根都有具名的持有者。其中任何一人都可以暂停已接受该根的智能体。单独发起的暂停将在24小时后失效,除非持有者中的多数确认它。多数也可以结束一次暂停。在随附软件上的一次记录运行中,一次暂停在智能体工作期间到达该智能体,该智能体的下一步行动被拒绝。随后多数投票结束了暂停,智能体恢复了工作。该次运行记录为CSD-129。

没有发现被违反的规则,还不够

rc9 设定了更高的标准。设计可达的每个状态都需要有规则与检查。服务必须真正得到交付,而不仅是从不被破坏。在小规模上证明的结论必须在完整规模上成立,否则必须把差距写明。软件在真实节点上必须与模型保持一致。

每项充分性主张都带有五个词之一

在 rc9 中,每项主张都说明其得知方式。已证明表示机器已检查过。已实测表示已在已发布的软件上测试运行过。已声明表示文本假定了它,并已说明。有界表示已在小规模上证明,且规模已写明。开放表示已知缺口,并附有工单。

同样的承诺约束人与智能体

每一项承诺只写一次,对人和 AI 智能体同样适用。暂停是唯一的例外。它属于任何智能体都不能担任的位置,rc9 模型检验了其他承诺对双方同样成立。

尚未证明的内容

并非所有内容都已得到证明,缺口已书面记下。一些治理步骤,例如异议和隔离,有规则但尚无模型。大多数模型已在小规模下验证,且规模已说明。到目前为止,只有暂停在真实节点上完成了端到端实测。记录格式已发布测试向量,但尚无第二个独立实现。

以上这些都不查看 AI 模型内部。它检查的是规则,以及承载这些规则的网络。

在 GitHub 上阅读 rc9 模型 →

阅读充分性文件 →

查看与其他方法的比较 →

阅读 CIRIS 宪法 →

查看全部四篇论文的核心发现与适用范围 →

查看完整研究与运行记录 →

逐条对照四个治理框架进行映射。

我们将 CIRIS 与四个公开治理框架逐条比对,针对每条规则说明 CIRIS 的做法及证明该规则的控制措施。这是一张可浏览的实时图谱,而不是幻灯片。

Magnifica Humanitas · EU HLEG · IEEE EAD · ASEAN

浏览合规图谱 →

每一项决策都是签名的公开记录,您可以自行审计。

探索决策轨迹 →

CIRISAI/reasoning-traces →

查看 Lens 源码 →

查看完整研究与运行记录 →