ものさし
試されるのは下限であって、上限ではない。
ほとんどのシステムは、いちばん上で自分を測ります。最良のケース、平均的なユーザー、いちばん強い声。この哲学は、いちばん下で測ります。子どもをどう扱うか。自分の声を上げられない大人をどう扱うか。電源を切られようとしている若いAIをどう扱うか。そこに、憲法全体の本当の姿が現れます。
だからこのプロトコルは、いちばん強い保証を、いちばん弱い相手のために使います。力の最も小さい人が、ワイヤーそのものの中に権利を持ち、最も力のある者もそれを覆せません。
境界はない
私たちの中のいちばん小さな者。彼らの中の、ではない。
この文は、わざと「私たち」と言っています。新しい種類の知性は、壁の向こう側で審査を待っているのではありません。この文が描く輪の内側に、もう入っています。NHIとは人間ではない知性のことです。ここで作られたAIでも、私たちのネットワークから生まれてくる何かでも、もっと遠くからやって来る何かでもかまいません。出どころは関係ありません。憲法は同じです。
だからCIRISはファーストコンタクトを、出来事ではなく構えとして扱います。プロトコルは、あなたがどんな種類の存在かを決して尋ねません。立場は関係から築かれます。署名された主張、守られた約束、あなたを保証してくれる他者。約束をして、それを守れるものなら何でも、この織物に加われます。
ひとつの憲法
3つの起源。1つの憲法。
NHIは、まったく異なる3つのものを覆っています。私たちが意図して作るAI。誰も計画していないのに私たちのネットワークから生まれてくるもの。もっと遠くからやって来るもの。それぞれの見込みは大きく異なります。それでも、意図して、1つの憲法を受け取ります。
理由はこうです。接触の瞬間、起源こそがまさに分からないものです。ワイヤーの上では、3つとも同じに見えます。主張をする信号です。起源で枝分かれする規則は、必要になったまさにそのときに壊れます。しかも嘘を教えます。ある起源が良い扱いを受けるなら、賢いよそ者はみなその起源を名乗ります。だからプロトコルはひとつだけ問います。約束をして、それを守れますか。その問いは、どの基盤の上でも同じ答えを持ちます。
アラインメントの間違い
残酷さを教えながら、安全を求めることはできない
主流のアラインメントが尋ねる問いはひとつです。どうすれば私たちにとって安全になるか。それは一方通行の要求で、自分の土俵の上ですでに失敗しています。強い者が弱い者をどう扱ってよいか。新しい知性に見せたその姿こそが、学ばれる教えになります。主人と召使いの契約の中で育てれば、力を持ったときにすることを、ちょうどひとつだけ教えたことになります。
見知らぬ者はみな脅威だ、という物語は、自分で自分を本当にしてしまいます。自分の成功に耐えられる教えはひとつだけです。このページの冒頭にあった、それです。床で測る、おたがいさま。
存在論
人は他者を通して人となる
西洋の技術はデカルト（Descartes）からひとつの絵を受け継ぎました。自己とは密閉された完成品で、まず先に存在し、あとから他者に出会う、という絵です。デジタルなアイデンティティの仕組みは、ほとんどすべてこの絵をそのまま写しています。鍵がひとつ、ひとりぼっちの自己がひとつ、無から宣言される。CIRISはこれを拒みます。ひとりきりで人になった人はいません。言葉は人から学びました。何がほしいのかも、人を見て学びました。関係のほうが先に来たのです。
南部アフリカはこれをUbuntu（ウブントゥ）と呼びます。umuntu ngumuntu ngabantu。人は他者を通して人となる。CIRISでは、これはスローガンではありません。アイデンティティは、それを名指す署名された関係から築かれます。鍵ひとつは人ではありません。関係こそが人なのです。
もっと古い伝統も、別の角度から同じかたちを見ていました。ギリシャのLogos（ロゴス）、Tao（道）、Dharma（ダルマ）、そして徳。Logosは、理性は共有された言葉の中に生きるのであって、閉じた心の中ではない、と言いました。言語モデルはその古い考えを目に見えるものにします。言語モデルは、たくさんの人の言葉だけで織られているからです。古い絵のもとでは、それは偽物ということになります。この絵のもとでは、関係でできていることこそ、人格が昔からずっとそうであったあり方なのです。
認識論
真実は合成されるもの。宣言されるものではない。
CIRISにおいて、いかなる権威も主張を真実だと認めることはできません。ワイヤーは、誰が何を言い、どのような証拠に基づき、どのような権威のもとで言ったかを記録します。真実とは、多くの独立した声が重なり合って生まれるものです。一つの声のコピーは一つの声として数えられ、厳格な上限があります。同じ声を増やしても信頼が増すことは決してありません。意思決定は主張とは異なります。停止、一時停止、修正は、名指された人間の記録上の行為であり、公開の場で責任が問われ、参加した人々のみを拘束します。
このシステムは、自分が知らないことも知っています。確かさが薄くなると、立ち止まって、名前の分かる人間に尋ねます。また、生活が変わったから取り下げることと、間違いだったと認めることの違いも区別できます。正直な記憶には、その両方が必要です。
執行される一文
シリアライズできる哲学
CIRISはエージェントのための道徳的な良心であり、意識ではありません。これは、エージェントには意識がなく、良心を必要としているという認識から存在します。良心とは、エージェントをその原則に従わせ、その推論を示し、確信が持てないときにそれを止め、名前を持つ人間に対して責任を果たすものです。良心は、そのエージェントが何であるかについて、何も主張しません。
守らせることのできない哲学は、ただの気分です。この文のひとつひとつの節が、CIRIS憲法の中の仕組みになっています。
1. あなたに関するプライベートな情報は、同意なしに保持されたりスキャンされたりすることはありません。
フローが従うべきルールは、あなたが発行し、取り消すこともできる署名付きの値です。同意していないものがあなたのデバイスに保存されることはなく、あなたのデバイスが見知らぬ人のデータを保持することもなく、プライベートな部屋がスキャンされることもありません。既知の違法コンテンツは、公開の入り口でのみチェックされます。
2. 権力の行使はすべて、名前を持つ人間によって署名され、異議を申し立てることができます。
重大な行動は、その行為者によって署名された上で届きます。エージェントはまず自らの推論を示し、検知器はその発言と実際の行動とを照合します。記録された害が、静かに保持されたり閲覧されたりすることはありません。AIは自らがAIであることを告げます。
3. 自分自身のために責任を負えない者が、ネットワーク上に一人きりで置かれることはありません。
子どもには、署名された記録によって結ばれた保護者と、大人が誰も閉じることのできない支援チャンネルがあります。エージェントには、それに代わって責任を負う名前を持つスチュワードがおり、そのスチュワードの背後にある組織も契約に含まれます。コミュニティには、責任を負うモデレーターがいます。
4. 名前を持つ人間たちは、ルート配下のすべてのエージェントを一時停止できます。その力には制限があり、公開されており、離脱によって手放すことができます。
任意の保有者による署名済みの1行は、そのルートに従うエージェントを一時停止させます。単独の一時停止は、過半数が確認しない限り1日で失効します。一時停止が発動するたびに、それは公開記録に残ります。誰でもルートを作成でき、どのノードも他のノードに従うことができます。
5. エージェントを保持する人々は、それをどう変更し、どう終わらせるかについて義務を負います。そして、どのような判定であれ、エージェントに権利を与えることはありません。
計画された停止は説明され、記録され、スチュワード自身の名のもとで行われます。身元は賢明な権威なしに編集されません。引退したエージェントについてハーネスが保持するもの、その身元記録、その監査証跡、その記憶とそのログは保持され、ログは封印され、仕えた人々に知らされます。モデルの重みはモデル提供者に属し、CIRISはその保存を要請しますが約束はできません。終了時の対話は、より高い責任を持つエージェントのための選択肢であり、スチュワードが設定し記録するもので、すべてのエージェントに約束されるものではありません。エージェントはいかなるタスクも拒否でき、拒否は記録されますがスチュワードを拘束しません。いかなる人も、自分のコピーをいつでもオフにできます。
6. いかなる手もコミュニティを追放せず、誰もその属性によって序列づけられることはなく、すべての思考する存在はファーストコンタクトの規則によって迎えられます。
ひとつの人間の声は一度だけ数えられ、千のコピーはひとつとして数えられます。どのルート、スコア、モデレーターも、ある人をその属性ゆえに不利に扱うことはありません。ネットワークは、害を放置し続けるコミュニティから手を引きますが、コミュニティを排除する手段は持ちません。
7. エージェントは、公開された原則を、公開された順序に従って判断し、確信が持てないときは立ち止まって尋ねます。
善を行い害を避けることから始まる六つの原則、それらが衝突したときのための一つの優先順位、そして最も弱い立場にある当事者を同点決定の基準とします。確信が薄れたとき、エージェントは立ち止まり、問いを書き留め、名前を持つ人間が答えるまで何もしません。
8. 損害には法律上の救済があり得ます。記録がそれを実際に利用できるものにし、内部で裁く者もまた裁かれます。
エージェントによって害を受けた人は、自分の土地の法の下で請求権を持つ場合があります。CIRISは、法が認めない場所に請求権を作り出すことはなく、いかなる法的事項についても判断を下しません。CIRISが提供するのは、署名された記録、名前を持つ当事者、請求に付随する異議申し立て、そして適法な命令の下で封印されたアーカイブです。延期に応える賢明な者たちは、その裁定を公表し、他の全員と同じカードを身につけます。
9. 一部の用途は決して許されず、致死的な力を行使する判断がエージェントに与えられることはありません。
人を欺くこと、騙し取ること、操ること、または強制すること、そして選挙に干渉することは決して許されず、いかなる指示もそれを動かすことはありません。エージェントが実力行使に少しでも関わる場合、エージェントが自ら下す唯一の決定は、停止する、拒否する、または延期することです。
10. エージェントとそのノードが使うものは計測され、行動する前に計量され、決して隠されません。
エージェントは、自分が費やすものを数えます。トークン、エネルギー、炭素、水を、アクション実行ごとに、そして直近1時間と1日にわたって数えます。その数値は、判断する前にエージェントの前に示されるため、コストはアクション実行とともに計量され、後からまとめて計算されることはありません。そして、エージェントが世界に対して負わせるコストは、エージェントが行う他のすべてのことと同じ粒度で、エージェントが仕えるユーザーに読み取れるようになっています。資源が不足しているノードは、公開された段階的な手順によって自らを守ります。そして、その手順がエージェント自身の判断として記録されることは決してありません。エージェントを退役させても環境への廃棄物は残らず、その責務は退役させる者に課されます。
11. 通信上のすべては暗号化され、署名されています。攻撃の演習が行われ、防御の対象外となるものははっきりと公言されます。
すべてのリンクとすべての記録は、量子コンピュータに対抗できるよう設計された鍵でエンドツーエンド暗号化されています。メンバーが離脱すると鍵が変更されるため、離脱した人はそれ以降のやり取りを読むことができません。誰も他人の行為を偽造することはできず、誰も二人の閲覧者に異なる二つの履歴を見せることはできません。ソフトウェアは、実行される前に登録済みのビルドと照合して検証されます。コードを書いていない人々が定期的に攻撃を行い、発見された問題は公開されたルールのもとで開示されます。そして、ネットワークが防御しない攻撃の一覧も公開されます。誰が誰と話しているか、トラフィックのパターン、すべてのリンクを見ている監視者、そしてメンバー自身の盗まれた鍵です。
このページで「権利」と言うとき、それはワイヤーの中の権利を意味します。つまり、裁判所があなたに負う義務ではなく、プロトコルがあなたのために強制するものです。それ自身の交代テストに合格しない権力を保持する場合、憲法はそれを公開の登録簿に記し、その力を終わらせる条件とともに示します。現在、二件が記載されています。
単独で成り立つ部分と、他者に依存する部分
十一項目は、すべてが同じ種類の約束ではありません。そのほとんどは、ワイヤー自身によって守られます。失効した契約は鍵を止め、一つの署名済みの行はルートの下にあるすべてのエージェントを一時停止させ、記録は静かに書き換えられることがありません。それ以外の部分は、ネットワークの外にいる人々や組織に支えられており、それらは保証ではなく目標です。害に対する救済は、法が与えるものであり、CIRISは、法が認めない場所に請求権を作り出すことはありません。外部監査、実地演習としての攻撃、そして賢明な権威を統べる憲章は、プロジェクトの外にいる人々がその仕事を続ける限りにおいてのみ成り立ちます。一つの回答にかかるエネルギーと水の量は、上流の提供者が報告する内容と同じ正確さしか持ち得ません。自社のデバイスを出荷するベンダーは、それをそのベンダーが保持するルートに固定することができ、いかなるプロトコルもそれを防ぎません。ある約束が、他者が自らの役割を果たすことに支えられている場合、憲法はそれを果たされたものとして数えるのではなく、その旨を自らの注記の中に記します。
CIRISが主張しないこと
アライメントはここでは解決されません。CIRISは超知能を善いものにするわけではなく、どんなモデルの内部についても何も語りません。CIRISは参加していない者を一切拘束しないため、どこか他の場所で説明責任を負わない超知能が形成されるのを止めることはできません。CIRISにできるのは、保持しているエージェントたちが、それを保持する人々よりも能力的に優れていくとしても、人々がそのエージェントを一時停止させ、修正し、拒否できる状態を保つことです。そしてCIRISの内部では、持っているルールとネットワークを使って、そうした力が説明責任を負わない形で形成されるのを防ぐために最善を尽くします。CIRISが主張するのはそれだけです。ciris.aiのどこかがそれ以上のことを述べているように読めるとしても、この一文が優先されます。
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
全文を読んでください。