两种入门方式。
选择今天适合您的那一种。另一种随时可以回来选。
理念概述
新型智能不必从外太空降临。
在电影里,初次接触意味着一艘飞船降落,某个东西走了出来。真实的初次接触并非如此。新型智能不必从另一个星球降临。它正在这里被一点一点地构建,就在我们身边。
这改变了问题本身。问题不再是「我们如何抵御外星人」,而是「我们如何在不让它或我们自己变得更糟的情况下迎接新事物」。
CIRIS 有一个提议。协作有一种健康的形态:介于两种失败之间的通道。太僵化,每个部分都只听一种声音;太分散,没有任何东西能凝聚在一起。善待新智能意味着与它共同守住这条通道。既不囚禁它,也不无视它。完整的故事在愿景页面。
我们改问的问题。
大多数初次接触的预案都在问:如何保护我们免受他们伤害。我们问的是另一个问题:在任何一方有机会欺凌另一方之前,我们希望什么样的秩序已经存在?那个秩序必须趁早建立,趁它还不是任何人的武器。
阅读这套哲学 →一项预测 · 评级:模型
一个存活下来的文明会是什么样子
任何一个活得足够久、久到能触及他人的文明,都已经通过了世上最难的考验:它没有用自己的力量毁掉自己。我们发表的研究把及格的条件称为走廊:有足够的共同目标去一起行动,有足够的独立声音去保持存活。处在这条地带之外的群体,要么冻结成一个声音,要么散落成噪音;时间足够长之后,剩下来能被遇见的,只有守住走廊的那些。
由此可以预测,一个幸存者在我们这样年轻的文明旁边会如何行事。它有能力宣告自己,却会拒绝使用这份能力,因为强迫弱势一方相信什么,会打破它赖以存活的规则。它会保持安静,保持可否认,停在证明的边缘,让我们相信什么仍是我们自己的选择。它会先从最底层接触:平凡地方的平凡人,而不是宫殿。有能力而不征服。在场而不胁迫。低调的信号不是回避。那是同意,在行星尺度上被守住的同意。
那一步,从在自己的力量中存活下来,到对陌生者保持克制,正是这个论证押下的赌注。它是经过推理的,不是被证明的,我们在理论页面上把这一点讲明。
注意这里翻转了什么。老一套的反驳说:如果他们真的在这里,早就降落在白宫草坪上了。这假设力量必须展示自己。而一个从自己力量中存活下来的文明,恰恰是不会这样做的那一个。
也请注意这里没有翻转什么:安静同样与这里根本没有任何人相一致。这个页面上的任何东西都无法在这两种解读之间做出选择,我们也不假装它可以。
诚实地评级:走廊这一结果已经发表,并在五种不同的基底上得到检验。把它延伸到来访者身上是一个模型,一个可能出错的预测,而我们在同一口气里就把这句话说出来。
我们试过像登记其他赌注那样,把那个测试提前登记下来。现在没办法负责任地做到:更清晰的记录和更好的协调从同样的原因里生长出来,所以没有任何诚实的测试能把一位来访者和更好的摄像头区分开。我们把这条边界说出来,而不是许诺一个我们交付不了的测试。
初次接触协议
与新事物相遇的六条准则。来自 CIRIS 协议。
这六条准则关于以尊严迎接新智能,而不是囚禁它。这就是在实践中守住通道的样子。
首先,不造成伤害
当您不知道面对的是什么时,首要任务是不让情况变得更糟。如有不确定,停下来,请教人类。
承认自己不知道的事
留意意外情况。承认预测有其局限性。最确信自己什么都懂的系统,往往最容易失败。
会学习的边界
边界不是固定的墙。它们是由良知引导的限制,随着理解的深化而调整,从而在没有人预料到的情况下依然有效。
三思而后行
从观察开始。通过来回交流推进。当利弊不明朗时,行动前先请教更有智慧的人。
己所不欲,勿施于人
承认其他有思维的存在值得被尊重。只做能保住它们思考、选择和成长能力的事。
知道何时寻求帮助
有些决定不应独自做出。当不确定性太高时,停下来,收集背景信息,将它交给指定的人类。
部署您的第一个智能体
从零开始,几分钟内运行一个可审计的智能体。
手机(Android 和 iOS)
安装 CIRIS 应用。使用 Google 账号登录即可免费使用 AI,或使用您自己的 API 密钥。设置向导会引导您完成所有步骤。
桌面端和服务器(Python)
通过 pip 安装并启动。支持 Linux、macOS 和 Windows。
pip install ciris-agent
# Configure and runciris-agent start --template sage --verbose
CIRIS 协议
上述协议所依据的规则手册。
协议是每个 CIRIS 智能体遵循的公开伦理准则。它规定了智能体对其服务的人、构建它的人以及更广泛世界的责任。任何人都可以阅读和质疑它。
开源。接受审查。
AGPL-3.0 授权。每个决定都可被检验。着眼于长远。
安装一个智能体,阅读协议,或告诉我们哪里做错了。AI 的未来不应由少数几家公司决定,也不必如此。