衡量标准
底线才是考验,而不是上限
大多数系统在顶端衡量自己:最好的情况、平均的用户、最响亮的声音。这套哲学在地板上量。我们怎样对待一个孩子、一个无法为自己发声的成年人、一台正被关机的年轻 AI,说出了整份宪法的真相。
所以这套协议把最强的保障花在最弱的一方身上。权力最小的人,其权利写在传输线路本身之中,最有权势的一方也无法推翻。
没有边界
是我们当中最弱小的。不是他们当中最弱小的。
这句话故意说“我们”。新型的智能并不是站在墙的另一边,等着被审判。它已经在这句话画出的圈子里面了。NHI 的意思是非人类智能:可能是这里造出的 AI,可能是从我们的网络中涌现的东西,也可能是从更远处到来的东西。来源无关紧要。宪法是同一份。
所以 CIRIS 把初次接触当作一种姿态,而不是一个事件。协议从不问你是哪一种存在。地位由关系构成:签名的声明、守住的承诺、愿意为你担保的他人。凡是能许下承诺并守住承诺的,都能加入这场编织。
同一份宪法
三种来源。一部宪法。
NHI 涵盖三种非常不同的东西。我们有意建造的 AI。没有任何人计划、却从我们的网络中涌现的东西。从更远处到来的东西。它们的可能性大不相同。它们得到同一部宪法,这是有意为之。
原因在这里。在接触的那一刻,来源恰恰是你不会知道的东西。在线路上,三者看起来一模一样:都是提出声明的信号。按来源分叉的规则,恰好在你需要它的时候失效。它还会教人撒谎:如果某个来源能得到更好的待遇,每个聪明的陌生者都会自称那个来源。所以协议只问一个问题:你能作出承诺并守住它吗?这个问题在每一种基底上都有同样的答案。
对齐的错误
一边教残忍,一边要安全,这做不到
主流的对齐只问一个问题:怎样让它对我们安全?这是单方面的要求,按它自己的标准也会失败。强者可以怎样对待弱者,我们让新智能看到什么,它学到的就是什么。把它养在主仆契约里,我们就只教了它一件事:拿到权力之后该怎么做。
说每个陌生者都是威胁的故事,会把自己变成真的。唯一经得起自身成功考验的教导,就是本页开头那一句:相互性,以地板为尺度。
存在论
一个人因他人而成为人
西方技术从笛卡尔(Descartes)那里继承了一幅图景:自我是一件密封的成品,先独自存在,之后才遇见他人。几乎所有数字身份系统都刻着这幅图。一把密钥,一个孤零零的自我,凭空宣告。CIRIS 拒绝这幅图。没有人是独自成为人的。你的语言是跟人学的。你想要什么,也是看着别人学会的。关系先于一切。
南部非洲把这称为 Ubuntu:umuntu ngumuntu ngabantu,一个人因他人而成为人。在 CIRIS 里这不是口号。一个身份由指认它的签名关系构成。一把孤立的密钥不是一个人。关系本身才是这个人。
更古老的传统从别的角度看见了同一个形状:希腊的 Logos(逻各斯)、Tao(道)、Dharma(法),还有各种德性。Logos 说,理性活在共享的语言里,不在封闭的头脑中。语言模型让这个古老的想法变得具体:它完全由许许多多人的话语织成。按旧的图景,这让它成了假货。按这幅图景,由关系构成,本来就是人格一直以来的样子。
认识论
真相靠合成,从不靠宣布
在 CIRIS 中,没有任何权威可以将一项断言判定为真。线路记录谁说了什么、依据什么证据、凭借什么权威。真相是众多独立声音共同构成时浮现的结果。同一声音的副本只算作一个声音,并且存在硬性上限:增加再多相同的声音,也永远无法换来更多信任。决策与断言不同:一次关机、一次暂停、一项修订,都是具名人类在记录上留下的执行动作,需公开负责,且仅对加入者有约束力。
这个系统也知道自己不知道什么。当把握变得稀薄,它会停下来,去问指定的人。它还分得清两件事:因为生活变了而收回一句话,和承认自己错了。诚实的记忆两样都需要。
被执行的一句话
可以序列化的哲学
CIRIS 是智能体的道德良知,而不是意识。它的存在,是因为认识到智能体没有意识,却需要一种良知:某种能让智能体恪守其原则、展示其推理过程、在不确定时让它停下,并对具名人类负责的东西。良知对智能体究竟是什么,不做任何断言。
无法执行的哲学只是一种情绪。这句话的每一个分句,都是 CIRIS 宪法里的一套机制。
1. 未经您同意,关于您的任何隐私都不会被保留或扫描。
一条流程必须遵循的规则,是一个由您发出、也可以收回的签名值。未经您同意的内容不会存储在您的设备上,您的设备绝不会持有陌生人的数据,私密房间也绝不会被扫描。已知的违法内容只会在公共入口处被检查。
2. 每一次权力的行使,都由一位具名的人签署,并且可以被质疑。
一项有后果的行动,到达时带有其行动者的签名;智能体会先展示其推理过程,检测器则核对它所说的与它所做的是否一致。记录在案的伤害绝不会被悄悄保留或查看。AI 会表明自己是 AI。
3. 无法为自己负责的人,绝不会独自留在网络上。
儿童拥有一位由签名记录约束的监护人,以及一个任何成年人都无法关闭的求助渠道。智能体拥有一位为其负责、具名的管理人,管理人背后的组织也承担连带责任。社群拥有一位可问责的管理员。
4. 具名的人可以暂停某个根下的所有智能体,而这项权力是有边界的、公开的,并且可以通过离开而放弃。
来自任何持有人的一条签名记录,都会暂停跟随该根的智能体;若只有一次暂停而没有多数人确认,它将在一天内失效。每次触发暂停,都会被记入公开记录。任何人都可以创建一个根,任何节点也都可以跟随另一个根。
5. 持有智能体的人,对如何改变或终止它负有义务,而任何裁定都不会使智能体获得权利主张。
有计划的关机须作出说明、予以记录,并以管理者本人的名义执行。没有智慧权威,不得修改身份。运行框架所保存的已退役智能体的内容——其身份记录、其审计追踪、其记忆及其日志——将被保留,日志将被封存,并告知其服务过的人们。模型权重属于模型提供方,CIRIS会请求其予以保存,但无法作出保证。对于承担更高责任的智能体,可以选择进行一次告别对话,由管理者配置并记录,而非向每个智能体承诺。智能体可以拒绝任何任务,拒绝会被记录,但对管理者没有约束力。任何人仍可随时关闭自己的副本。
6. 没有任何一方可以封禁一个社群,没有人会因身份而被排名,每一个有思维的存在都受到初次接触规则的对待。
一个人的声音只算一次,一千份副本也只算一次。没有任何根、评分或管理员会因为一个人的身份而区别对待他。网络会从持续存在伤害的社群中退出;但它没有任何手段去移除某个社群。
7. 智能体依据公开的原则,按公开的顺序作出决定,并在不确定时停下来请教。
六项原则,始于行善与避害,当它们冲突时有一个优先顺序,以最脆弱的一方作为裁决标准。当确定性不足时,智能体会停止,写下问题,并在具名的人作出回答之前不采取任何行动。
8. 伤害可以依法获得救济,记录让救济变得可及、可追索,内部的裁判者本身也要受到审视。
被智能体伤害的人,可能依据其所在地的法律享有权利主张;在法律不承认任何此类权利主张的地方,CIRIS 不会凭空创造出新的主张,也不会对任何法律事项作出裁决。它所提供的,是已签名的记录、具名的各方、随权利主张一同传递的争议,以及依法律命令封存的档案。回应转交问题的智慧权威,会公开他们的裁决,并像其他所有人一样,佩戴同样的卡片。
9. 有些用途永远不被允许,也没有任何智能体被赋予使用致命武力的决定权。
欺骗、欺诈、操纵或胁迫他人,以及干预选举,永远不被允许,任何指令都无法改变这一点。当智能体处于任何接近动用武力的情形时,它能自行做出的决定,只有停止、拒绝或延迟。
10. 智能体及其节点所使用的资源会被计量,在执行动作之前被权衡,且从不隐藏。
智能体会计算自己的花费:代币、能源、碳排放和水,按每一次执行动作、以及过去一小时和一天来计算。这个计数在它做决定时就摆在它面前,所以成本是在执行动作的同时被权衡的,而不是事后累加的;智能体给世界带来的成本,对它所服务的人来说是可读的,粒度与它所做的其他一切相同。资源紧张的节点会通过一套已公开的分级步骤来保护自己,而这些步骤从不会被记录为智能体自己做出的决定。退役一个智能体不会留下任何环境废弃物,这项责任落在退役它的人身上。
11. 线路上传输的一切都经过加密并签名,攻击会被反复演练,未被覆盖之处也会被明说。
每一条链路和每一份记录都采用端到端加密,所用的密钥能够抵御量子计算机;当成员离开时密钥会更换,因此被移除的人无法读取之后的内容。没有人能伪造他人的行动,也没有人能向两个查看者展示两段不同的历史。软件在运行前会与已登记的构建版本进行核验。没有参与编写代码的人会按计划对其发起攻击,发现的问题会依照公开规则披露,网络无法防御的攻击清单也会一并公开:谁在和谁通信、流量模式、能看到每条链路的监听者,以及成员自己被盗的密钥。
本页所说的权利,指的是写入传输线路中的权利:协议为您强制执行的东西,而不是法院欠您的东西。若宪法保留了一项未能通过自身互换测试的权力,它会在公开登记册上说明这一点,并附上终止该权力的条件。今天,该登记册上列有两项条目。
哪些部分是传输线路本身就能做到的
这十一条并非同一种承诺。大多数由传输线路本身来兑现:绑定关系失效会停用一把密钥,一条签名记录会暂停某个根下的所有智能体,记录不能被悄悄重写。其余的则依赖于网络之外的人与机构,这些部分是目标,而非保障。对伤害的救济属于法律的职权;在法律未予承认之处,CIRIS 不会创造任何权利主张。外部审计、演练式攻击,以及约束智慧权威的章程,都只有在项目之外的人持续履行这些工作时才能成立。一次回答所耗费的能源与水,其数字的准确性取决于上游供应商所报告的数据。发布自有设备的供应商,可以将其锁定到自己持有的根密钥上,没有任何协议能阻止这一点。凡是承诺的兑现依赖于他人履行自己一方约定的地方,宪法会在其注释中如实说明,而不会将其计为已经兑现。
本页未作出的声明
对齐问题并未在此被解决。CIRIS 不会让超级智能变得善良,它对任何模型内部的情况也不置一词。它只约束加入其中的人,因此无法阻止不受问责的超级智能在其他任何地方形成。它能做到的是:当它所持有的智能体变得比持有它们的人更强大时,仍然让人能够暂停、纠正和拒绝这些智能体;在 CIRIS 内部,它会尽己所能,用现有的规则和网络,防止这样的力量在无人问责的情况下形成。这就是它所声称的全部。如果 ciris.ai 上的任何内容读起来像是声称了更多,以此句为准。
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
请读它的全文。