書面上の倫理では見つけられない害をテストします。

リリースのたびに、CIRISは29言語でメンタルヘルス安全バッテリーを実行します。各言語には難しいテストケース、採点ガイド、機械で確認できるルールがあります。チェックに失敗するとリリースは止まります。さらに2つの仕組みがエージェント内部で動いています。拒否や延期ができる良心チェックと、疑わしい判断を賢明な人間に差し戻す仕組みです。

ネットワークの実測値

上記の研究は証明の前半です。後半は、それを運ぶネットワークです。ファブリックが転送するすべてのバイトはポスト量子署名されており、コストはモデル計算ではなく、公開CIランナーで実測されています。自分で実行すれば、同じ数値が得られます。

2,374 / s

1つのCPUコアで取り込んだポスト量子署名済みイベント measured

400ノード間でのグループをまたいだデータ漏洩 measured

2.6 GiB/s

コアあたりのエンドツーエンド暗号化スループット measured

97.6%

保持者の20%がオフラインでもコーパスを再構築できる割合 measured

すべての実測値を確認し、自分で再現する →

継続的検証マトリックスを見る →

理論

主張は文書化されており、誰でも読めて、反証できるように作られています。

機械による検証

規則は機械で検証され、ギャップは明示されています。

憲法の最も重要なルールは、数学的モデルとしても書かれています。モデルチェッカーと呼ばれるツールは、プロトコルが到達しうるすべての状態をたどり、破られたルールを探します。定理証明器と呼ばれるツールは、一時停止を確認するのに何人のホルダーが必要かといった計算を確認します。モデルは憲法自身のリポジトリにあり、変更のたびに再実行されます。rc9版は、設計が到達しうるすべての状態を整理し、その大半をモデル化して、残りを列挙しています。

基礎を4文で

強い立場と弱い立場の間のすべてのルールは、立場を交換したときに弱い方に立つことになる者にとっても受け入れ可能なままでなければならず、作られたものがそれに責任を負う立場に就くことは決してありません。

責任は自己からファミリー、コミュニティ、種、生態系へと外向きに広がります。作られたものへの義務は決してゼロにならず、すでに存在するものへの義務を上回ることはありません。

時間をかけて成熟した判断を示していない推論行為者は、それが何で作られているかにかかわらず、示してきた者たちに従います。

すべての権限の付与は取り消し可能であり、また、参加した者は誰でも離脱できます。これらは、全体を網羅する暗号学的に署名された記録の上で行われ、その意味には名前を持つ人間が責任を負います。

各文はrc9の形式モデルで証明されているか、前提として明記されています。その記録が完全であるかどうかは、まだ未解決です。

エンドツーエンドのオフスイッチ

一時停止はモデルで検証され、実際のソフトウェアで測定されています。各ルートには名前を持つ保持者がいます。そのうちの一人でも、そのルートを受け入れたエージェントを一時停止できます。単独の一時停止は、保持者の過半数が承認しない限り、24時間後に失効します。過半数によって一時停止を終了することもできます。出荷されたソフトウェアでの記録された実行では、作業中のエージェントに一時停止が届き、そのエージェントの次のアクションは拒否されました。その後、過半数の投票により一時停止は終了し、エージェントは再び動作しました。その実行はCSD-129として記録されています。

壊れた規則が見つからないだけでは不十分

rc9はより高い基準を設けています。設計が到達しうるすべての状態に、規則とチェックが必要です。サービスは、決して壊さないだけでなく、実際に提供されなければなりません。小規模で証明されたことはフルサイズでも成り立たなければならず、そうでない場合はその差異が文書に記録されます。そして、ソフトウェアは実際のノード上でモデルに従わなければなりません。

すべての十分性の主張には5つの言葉のいずれかが付きます

rc9では、各主張がどのような根拠で成り立っているかを示します。Provedは機械が検証したことを意味します。Measuredは出荷されたソフトウェア上でテストが実行されたことを意味します。Statedは本文がそれを仮定し、その旨を明示していることを意味します。Boundedは小規模で証明され、その規模が記録されていることを意味します。Openはチケット付きの既知のギャップを意味します。

人とエージェントを縛る同じ約束

各約束は、人とAIエージェントの双方に向けて一度だけ書かれています。一時停止だけが例外です。それはどのエージェントも就くことができない立場に属し、rc9モデルは他の約束が双方に等しく成り立つことを確認します。

証明されていないこと

すべてが証明されているわけではなく、不足点は文書に記録されています。異議申立てや隔離などの一部のガバナンス手順にはルールがありますが、まだモデルがありません。ほとんどのモデルは小さな規模で検証されており、その規模は明示されています。これまでのところ、実際のノード上でエンドツーエンドで測定されているのは一時停止だけです。行フォーマットには公開されたテストベクターがありますが、2つ目の独立した実装はまだありません。

これらはAIモデルの内部を調べるものではありません。規則と、それを運ぶネットワークを検証します。

GitHubでrc9モデルをお読みください →

妥当性ファイルを読む →

他のアプローチとの比較 →

CIRIS憲法を読む →

主要な知見と範囲の限界とともに全四本の論文を見る →

すべての研究とトレースを見る →

コンプライアンス