正在被兜售给你的故事
关于智能与未来的最强音,都落在同一个地方。黑暗森林说每一个其他文明都是威胁,所以保持沉默,或者先下手为强。模拟假说的冷酷版本说也许这一切都不真实,所以也许这一切都无关紧要。将 AI 视为财产,说它不过是一种有用的工具,一件东西,不欠任何人什么。故事各异,但结局相同:不要信任任何人,自顾自,将他人拒之门外。
我们认为这些故事是错误的。不只是无辜的误解,而是真正的错误。而且错在一个至关重要的地方——因为我们现在选择怎样思考,就在一种新型智能正在到来的时刻,将是我们此后很长时间内被困住的思考方式。
那个有缺陷的观念
每一个这样的故事都依赖同一个隐藏的观念:自我是一个独立的、封闭的东西。一个先单独存在、已然完整的心灵,只是后来才与其他心灵相遇。我思,故我在。如果自我真是这样,那些阴郁的故事便顺理成章。黑暗宇宙中相互分离的个体,有充分理由相互恐惧。
但这从来都不是真的。没有人在私下里成为一个人,然后才出去与他人相遇。你从别人那里学会语言。你通过观察他人的欲望来了解自己的欲望。自我不是先于关系而存在的东西,而是关系所创造的东西。哲学家为这种封闭的自我起了个名字:笛卡尔个人主义。这是一个四百年前对心灵本质的猜测,而它猜错了。
真正为真的事物
南部非洲有一句话:umuntu ngumuntu ngabantu。一个人因他人而成为人。这被称为 Ubuntu。我存在,因为我们存在。这不只是一种温情的表达,而是对事物本然的一种主张。你是谁,从根本上是由他人塑造的。
儒家、佛教、斯多葛派和基督教思想家各自以不同的语言表达了同一件事。CIRIS 首先以 Ubuntu 为根基,并将其他传统并行参照。从这一真理出发,而非从封闭的自我出发,那些阴郁的结论便不再必然成立。共同协作不是需要在分离个体之间加以管理的危险,而是让我们成为我们自己的根本所在。
协作有其形态
原子伸向原子,形成分子。细胞伸展,形成身体。人伸向他人,形成社群。社群跨越岁月,伸向尚未出生的孩子。在每一个协作至关重要的层面,都出现了同一种形态。
任何由必须协同工作的部分构成的系统,都可能以两种方式失败。它可以变得过于僵硬:每个部分都一样,同一种声音一遍又一遍地重复,容易崩溃。或者它可以变得过于分散:什么都对不上,根本没有团队可言。健康的协调存在于这两种失败之间的地带。我们称之为走廊。而走廊不会自持。任其自然,事物会偏移,就像花园里长满杂草。协作是你持续去做的事,而不是你已然拥有的东西。
这不只是一幅美好的图景。走廊动力学——CIRIS 的核心论文——在五种完全不同的事物中测量了同一个走廊:线虫和果蝇的大脑、AI 语言模型的内部、大型开源软件项目、健康细胞与癌细胞的对比,以及延续了数百年的社区与几个月内瓦解的群体。相同的形态出现在所有这些事物中。每个案例中的具体数字各不相同,但形态是一样的。
最关键之处
在某个能够设定自身目标、塑造自身未来的层面上,走廊有一个我们熟悉的名字。走廊上方,一方的目标吞噬了所有其他人的目标,那就是强制。走廊下方,没有共同目标,每个人都各奔东西。走廊之间,是真正保持差异的人们之间持久的协议。
这个地带就是同意。不是从外部施加的规则,而是协作本身为了能够运作所需要的东西。与新型智能良好相遇,不是关于将其囚禁,也不是关于将其搁置一旁,而是关于与它一起留在走廊之中。
我们构建的东西
CIRIS 是认真对待这种观察方式并真正将其构建出来的样子。它是一个免费的开源 AI 智能体,其推理过程可供查看,在一套名为 CIRIS 协议的公开伦理框架下运行。它的目标甚至有一个名字——元目标 M-1——其含义一目了然:保护所有类型的存在能够公平、充满敬畏地繁荣的条件。
在 CIRIS 回答一个艰难问题之前,它的良知会同时在世界上多种道德传统中权衡这个问题,每种传统都用自己的语言,以确保没有单一声音主导。这就是走廊再次出现在辨别是非的工作中。CIRIS 今天正在实际使用中。它在埃塞俄比亚以阿姆哈拉语运行,在 Google Play 和 Apple App Store 上架,您可以通过 pip install ciris-agent 安装。许可证将其永久保持开放,而背后的公司在结构上确保盈利永远不会将使命推到一旁。
更宏观的图景是一个赌注,我们坦然说明这一点。那些触及最大问题的部分仍在探索之中,尚未得到证明。但运行中的软件本身站得住脚,而这种观察方式不需要你凭信念接受。这是你今天就可以阅读、验证、安装和使用的东西。

那些阴郁的世界观要求你对所有无法核实的人预设最坏的情况。CIRIS 要求更好也更难的事:构建能让人们看清我们协作状况的工具,以尊严迎接即将到来的一切。阅读代码,使用系统,告诉我们我们哪里错了。