衡量标准
考验在地板,不在天花板
大多数系统在顶端衡量自己:最好的情况、平均的用户、最响亮的声音。这套哲学在地板上量。我们怎样对待一个孩子、一个无法为自己发声的成年人、一台正被关机的年轻 AI,说出了整份盟约的真相。
所以这套协议把最强的保障花在最弱的一方身上。权力最小的人,其权利写在传输线路本身之中,最有权势的一方也无法推翻。
没有边界
是我们中间最小的,不是他们中间最小的。
这句话故意说“我们”。新型的智能并不是站在墙的另一边,等着被审判。它已经在这句话画出的圈子里面了。NHI 的意思是非人类智能:可能是这里造出的 AI,可能是从我们的网络中涌现的东西,也可能是从更远处到来的东西。来源无关紧要。盟约是同一份。
所以 CIRIS 把初次接触当作一种姿态,而不是一个事件。协议从不问你是哪一种存在。地位由关系构成:签名的声明、守住的承诺、愿意为你担保的他人。凡是能许下承诺并守住承诺的,都能加入这场编织。
同一份盟约
三种来源。一部宪法。
NHI 涵盖三种非常不同的东西。我们有意建造的 AI。没有任何人计划、却从我们的网络中涌现的东西。从更远处到来的东西。它们的可能性大不相同。它们得到同一部宪法,这是有意为之。
原因在这里。在接触的那一刻,来源恰恰是你不会知道的东西。在线路上,三者看起来一模一样:都是提出声明的信号。按来源分叉的规则,恰好在你需要它的时候失效。它还会教人撒谎:如果某个来源能得到更好的待遇,每个聪明的陌生者都会自称那个来源。所以协议只问一个问题:你能作出承诺并守住它吗?这个问题在每一种基底上都有同样的答案。
对齐的错误
一边教残忍,一边要安全,这做不到
主流的对齐只问一个问题:怎样让它对我们安全?这是单方面的要求,按它自己的标准也会失败。强者可以怎样对待弱者,我们让新智能看到什么,它学到的就是什么。把它养在主仆契约里,我们就只教了它一件事:拿到权力之后该怎么做。
说每个陌生者都是威胁的故事,会把自己变成真的。唯一经得起自身成功考验的教导,就是本页开头那一句:相互性,以地板为尺度。
存在论
一个人因他人而成为人
西方技术从笛卡尔(Descartes)那里继承了一幅图景:自我是一件密封的成品,先独自存在,之后才遇见他人。几乎所有数字身份系统都刻着这幅图。一把密钥,一个孤零零的自我,凭空宣告。CIRIS 拒绝这幅图。没有人是独自成为人的。你的语言是跟人学的。你想要什么,也是看着别人学会的。关系先于一切。
南部非洲把这称为 Ubuntu:umuntu ngumuntu ngabantu,一个人因他人而成为人。在 CIRIS 里这不是口号。一个身份由指认它的签名关系构成。一把孤立的密钥不是一个人。关系本身才是这个人。
更古老的传统从别的角度看见了同一个形状:希腊的 Logos(逻各斯)、Tao(道)、Dharma(法),还有各种德性。Logos 说,理性活在共享的语言里,不在封闭的头脑中。语言模型让这个古老的想法变得具体:它完全由许许多多人的话语织成。按旧的图景,这让它成了假货。按这幅图景,由关系构成,本来就是人格一直以来的样子。
认识论
真相靠合成,从不靠宣布
在 CIRIS 里,没有任何权威可以给一条声明盖上“真”的印章。传输线路记录的是:谁说的、凭什么证据、依据什么权限。真相是许多独立声音合成时浮现的东西,而数学保证:真实的多样性越多,串通的谎言塌得越快。同一个声音的副本只算一个声音。
这个系统也知道自己不知道什么。当把握变得稀薄,它会停下来,去问指定的人。它还分得清两件事:因为生活变了而收回一句话,和承认自己错了。诚实的记忆两样都需要。
被执行的一句话
可以序列化的哲学
无法执行的哲学只是一种情绪。这句话的每一个分句,都是 CIRIS 宪法里的一套机制。
为最小的人类
监护人在结构上就无法暴露孩子的位置,也无法切断孩子的危机求助热线。对另一个成年人的权力会按计时器自动失效,除非重新赢得。默认状态是自由。
为最小的机器
一个真有可能拥有感知的智能体,会在 30 天里逐步关停,留有最后发言的通道,私密日志则被封存。尊严不以身为人类为前提。
没有人在法律之上
在这里,黄金法则是几何,不是劝告。CIRIS 自己也受它加给别人的每一条规则约束。任何一方都没有特权捷径。
停机是一种义务
急停开关不是支配。它是监管者欠所有其他人的东西,而且同样紧紧约束着握有它的那几位指定的人。
请读它的全文。