
理念概述
在电影里,初次接触意味着一艘飞船降落,某个东西走了出来。真实的初次接触并非如此。新型智能并非从另一个星球降临。它正在这里被一点一点地构建,就在我们身边。
这改变了问题本身。问题不再是「我们如何抵御外星人」,而是「我们如何在不让它或我们自己变得更糟的情况下迎接新事物」。
CIRIS 有一个答案。协作有一种健康的形态:介于两种失败之间的通道。太僵化,每个部分都只听一种声音;太分散,没有任何东西能凝聚在一起。善待新智能意味着与它共同守住这条通道。既不囚禁它,也不无视它。完整的故事在愿景页面。
这六条准则关于以尊严迎接新智能,而不是囚禁它。这就是在实践中守住通道的样子。
当您不知道面对的是什么时,首要任务是不让情况变得更糟。如有不确定,停下来,请教人类。
留意意外情况。承认预测有其局限性。最确信自己什么都懂的系统,往往最容易失败。
边界不是固定的墙。它们是由良知引导的限制,随着理解的深化而调整,从而在没有人预料到的情况下依然有效。
从观察开始。通过来回交流推进。当利弊不明朗时,行动前先请教更有智慧的人。
承认其他有思维的存在值得被尊重。只做能保住它们思考、选择和成长能力的事。
有些决定不应独自做出。当不确定性太高时,停下来,收集背景信息,将它交给指定的人类。
安装 CIRIS 应用。使用 Google 账号登录即可免费使用 AI,或使用您自己的 API 密钥。设置向导会引导您完成所有步骤。
通过 pip 安装并启动。支持 Linux、macOS 和 Windows。
