CIRIS has a new look. Visit the new site →
このページは機械翻訳されています。 おかしな表現があればイシューを開いてください。リポジトリは公開されています。 翻訳の問題を報告

← ロビーに戻る

憲法メッシュ

持ちこたえなければならない部分

CIRISは耐量子で分散型の憲法メッシュです。乗っ取りに耐えるように造られた連携の上を運ばれる機械の良心です。オープンなAIモデルが力の集中を防げるのは、それを動かす人たちが互いを見つけ、互いを確かめ、誰かが買収したり止めたり壊したりできる仲介者なしで一緒に働けるときだけです。その連携の層こそが荷重を支える部分です。私たちはそれを作りました。このページは、あなたが攻撃できるように主張をそのまま書き出したものです。

AIの力を分散させたままにするどんなオープンソースの計画でも、荷重を支えているのは分散した連携メッシュであり、オープンなモデルの重みでも、気の利いたエージェント道具でもありません。乗っ取りに耐えるメッシュが作れるなら、多くの独立した担い手が、どの企業にも国家にも未来を独り占めさせずにすみます。作れないのなら、オープンソースによる安全という議論は自分の前提の中で崩れます。

この主張はわざと強い形で書いています。そしてこのメッシュは提案ではありません。動いています。だから問いはもう、そんなものが存在しうるかどうかではありません。これが乗っ取りに耐えるかどうかであり、その問いには攻撃すれば答えが出ます。

前提は五つ。どれか一つでも壊れれば、主張は倒れます。

P1 · 集中は悪用より大きい

進んだAIがもたらす最大の危険は、一人の担い手が未来の支配を固定してしまうことであって、多くの担い手が小さなモデルを悪用することではありません。この順番をひっくり返せば、その先にあるものもすべてひっくり返ります。

現状:価値観で重みづけした賭けです。これを打ち消す観測が何かを、私たちは挙げられません。そのことも隠さずに言います。

P2 · 勝者総取りは勝者を求める

変革的なAIのもとでの市場競争は、株主が価値観を決める単独の勝者のほうを指し示します。構造をそのままにしてその競争から降りることは、悪い結末が永久に固定される危険をはらみます。

現状:市場が実際にどう集中するかに照らせば、原理としては検証できます。反証の条件はまだ登録していません。

P3 · 小さな計算機も力を保つ

道具を使わせる工夫と賢いハーネスのおかげで、普通のハードウェアで動くオープンなモデルが、少し前まで最先端にしかできなかった仕事をこなします。学習の堀は本物です。動かせる能力の堀は水が漏れます。

現状:測れていて、しかも死に方がはっきりしている唯一の前提です。能力の差がふたたび開き、開いたままになるなら、この前提は死に、戦略も変わります。動く量なので、見張り続けます。

P4 · 競争ではなく、しきい値

分散した担い手が最先端に勝つ必要はありません。抜ける、確かめる、断るということが可能なままでいられる線の上に留まればよいのです。そうすれば、誰も安上がりに相手をつぶせません。それは同等に並ぶことよりずっと低い基準で、しかも本当に効く基準です。

現状:賭けであり、このページで明示しています。敷居がどこにあるのかを、まだ誰も形にしていません。

P5 · 群れは担い手ではない

有能でもばらばらな百万台の機械は、趣味人の群れにすぎません。それを、囲い込みを断れる何かに変えるのは、信頼できる連携です。互いを見つけ、互いを検証し、ソフトウェアを分け合い、買収も召喚も転倒もできてしまう関所なしで協力することです。

現状:定義の話ではなく、中身のある主張です。市場も群れも、誰かが敷いたレールなしで連携します。だからP5が実際に言っているのは、設計されていない連携だけでは囲い込みを断るのに足りない、ということです。これは異論の余地があり、議論の中で実際に働いています。

オープンな重みと良いハーネスは、欠かせない材料です。私たちが置いている前提は、足りていれば足りている、というものです。CIRISは最先端を追いかけず、敷居を守ります。他にはない、まだ解けていない、荷重を支える工学の課題は、乗っ取りに耐える連携のほうです。

ガードレールか開放かは偽の二択

AIの安全をめぐる議論は、いつも二つの扉を差し出します。片方の奥では、安全とは中央が握るガードレールのことで、それは安全のバッジをつけた集中の問題そのものです。もう片方の奥では、開放とは生の能力を配って良い結果を願うことで、散らばった悪用が土台を手に入れるのはこの道筋です。

CIRISの狙いは、この二つの扉が引き離しているものを結び直し、その二択を断ることにあります。すべてのCIRISエージェントは機械の良心のもとで動きます。憲法があらゆる判断のなかへ運ばれ、署名された領収書が残り、指名された人間が握る本物のオフスイッチがあります。そしてその良心は、乗っ取りに耐えるように造られたメッシュの上を運ばれるので、良心もまた誰の持ち物にもなりません。

どちらの半分も、それだけでは働きません。中央の管理下にある良心は、物腰のよいガードレールにすぎません。良心のないメッシュはただの分散で、自ら招く悪用の心配を受けて当然です。このページがメッシュを擁護するのは、メッシュこそまだ解けていない部分だからです。そこに運ばれるのは良心を備えたAIです。要はそこです。

メッシュは動いています

最後の信頼の根は2026年8月に焼き込まれました。名前の分かっている人たちの三人中二人の定足数が承認した、署名済みのジェネシス記録です。署名されたバイトの中に、最初の正規サーバーの住所が入っています。参加するのに、どの段階でもドメイン名は要りません。正規サーバーは今も増えています。

その定足数を支える鍵も、口先だけではありません。六本すべてが本物のFIPS 140-3ハードウェアの中で作られたことを証明する公開の検査は、誰でも自分でもう一度回せます。ファームウェアとタッチのきまりは、証明書そのものに記録されています。

乗っ取れる仲介者がいない

ノードどうしは、アプリストアやパッケージ登録所やドメイン名ではなく、署名された記録を通じて互いを見つけ、ソフトウェアを取ってきます。

根は誰でも作れる

CIRISの根は最初から入っている既定であって、唯一の選択肢だったことはありません。どの運用者も同じだけ正しい根を作れますし、どの根を信じるかはクライアントごとに選びます。同梱の根は既定であって、唯一の根ではありません。

持ち分ではなく、責任

立場は、答えられることから生まれます。生きた鎖をたどって責任を負う人間まで行き着けること。財産からではありません。そして偽の構成員が自分たちを票で押し込むことはできません。効いてくる加入定足数が数えるのは、群れではなく創設者です。

いちばん試してほしい四つの攻撃

憲法は、知られている危険を公開の台帳に載せ、それぞれを備え付きの賭けとして書いています。その台帳の外で、この主張がいちばん無防備だと私たちが考えるのはこの二か所です。眺められるより、殴られるほうがありがたいです。

既定が中心になる

歴史上のどの分散システムも、事実上の中心を育ててしまいました。BitTorrentにはトラッカーができ、メールにはGmailができました。開かれた共同作業の研究でも、規模が大きくなれば結局は少数の支配が生まれると分かっています。私たちの根も既定として同梱されますし、ほとんどの人は既定を変えません。だから、根が複数あることは、それを使う人だけを守ります。ですから本当の試験は、誰かが別の根を作れるかどうかではありません。すでに座っている根の許可なしに、別の根が社会的にも経済的にも生きていけるかどうかが試験です。生きていけないと示せるなら、乗っ取りに耐えるという話は成り立ちません。生き残った上限の数学は、問いをさらに鋭くします。同じソフトウェア、同じ既定、同じモデルを動かす根どうしはつながり合っており、つながり合った根とは、たくさんの名前をまとったひとつの根です。相関が半分なら、千の根は二つとして数えられます。ですから測れる形の問いは、別の選択肢がありうるかどうかではありません。根が実際どれだけつながり合っているか、であり、網が自前で持つ N_eff という計器を、まさにそこへ向けることができます。

作られた人間

立場は持ち分ではなく、責任を負う人間に支えられています。いちばん鋭い問いは、責任を負う人間を作り出せる相手が現れてもそれが保つのか、です。本物の書類を持つ替え玉、脅されている世話役、あるいはただ辛抱強い従業員。これが私たちのいちばん大きな未解決の問いで、私たちはそう言います。

敷居は賭けです

足りていれば足りている、と私たちは考えています。最先端は追いかけず、確かめること、出ていくこと、断ることができるままでいられる線を守るだけです。その線がどこにあるのかは、まだ誰も言い当てていません。つまり、能力と参加と連携がどれくらい揃えば、乗っ取れない網が、はるかに豊かで速くて顔の広い相手にみんなを囲い込ませずに済むのか、ということです。連携は、散らばった能力を散らばった決定権に変えます。敷居ぶんの決定権で足りるのかどうかは、この主張のなかでいちばん深い、事実で確かめるしかない問いであり、私たちはまだ答えを出していません。

私たち自身の計器にある死角

シビル耐性は N_eff に頼っていますが、N_eff は二者ずつの測定です。それには見えないことが証明されている種類の連携があります。どの二者を取っても独立に見えるのに、全体としては一緒に動くように組まれた同調です。この経路はモデルの側では知られていて、網の上ではまだ測っていません。計器の死角は攻撃面ですから、私たちはそれを名指し、その攻撃を組み立ててほしいとお願いします。

有益証明(Proof of Benefit)

アルゴリズム立憲主義をめぐる近年の研究はこう警告します。統治をプロトコルの中に移しても支配は終わらない、と。お金、技術的な支配権、作り出された身元が、そのまま新しい主権者になりうるからです。この警告はもっともです。メッシュはこれに三つめの安全モデルで答えます。作業証明(proof of work)とも持ち分証明(proof of stake)とも違うやり方です。

CIRIS の統治における立場は、買うものでも掘り出すものでもありません。設計上、それは稼ぐものです。誰がやったかをたどれて、偽装するには高くつく貢献に対して、他人に渡せないクレジットが積まれます。安い拍手には重みがなく、終えた仕事については相手側の確認を求めることができます。つながり合った声は、CIRIS のほかのどこでも同じ上限にぶつかります。身元を増やしていく徒党は、独立したひとつの声の重みまで縮みます。そして稼いだ権限は、範囲があり、取り消せて、異議申し立てを受け付けます。それは誰のものとも同じように薄れていきます。古株であることも含めてです。それが恒久的な主権になることは決してありません。

これで乗っ取りがなくなるわけではなく、憲法もそう書いています。大きな規模で稼いだクレジットに基づく統治は、私たちが認めている賭けであって、検証済みの結果ではありません。巧妙につながり合った相手を見つけ出すことも、まだ片付いていない仕事です。有益証明が変えるのは、割に合うかどうかです。共有地に正当な影響力を持ちたければ、攻撃者はまずその価値ある一員としてふるまわなければなりません。

Hu & Rong, “Is Decentralized AI Governable? From Regulative Policy to Constitutive Protocol” (arXiv 2605.24538)

何が起こりうるか、はっきり言う

このページが目指している未来は希望のあるものです。人間のものもそうでないものも、知性の中心が数多くあり、どれも他を所有できず、それでも協力する。土台がそう作られていて、正直でいるほうが乗っ取るより安上がりだからです。その未来は目指して作る価値があり、メッシュは今日すでに動いています。基盤のある希望は、基盤のない希望に勝つからです。

ただし、きつい話もはっきり言っておきます。乗っ取りへの耐性がうまくいっても、競争は終わりません。ひとつ上の段に移るだけです。成熟したメッシュが二つ、あるいはメッシュとシングルトン ASI が一つずつ、にらみ合いのまま固まって資源を奪い合うことがありえます。にらみ合いとは、互いに相手の独占を許さない状態の見た目です。問題は、それが暮らせる状態のままでいられるかどうかです。検証された約束、同意にもとづく連合、征服によらない合流は、ここでは実在する道であり、不透明な相手にはありません。一方で、競走の圧力、線の外にある資源、戦時の緊張下での回廊からの離脱は、憲法では取り除けない実在の危険です。

抑止のもとで、憲法メッシュが二つあるほうがシングルトン ASI が二つあるよりよいのかどうか、そして得るものと失うものをどう量るのかは、まだ答えの出ていない問いです。検証できる帳簿と、同意のかたちをした連合が、私たちの側に傾けると考えています。それを証明したわけではなく、そのこともここで言っておきます。

このページのすべてと同じで、これは消しきれない不確かさの中での行動です。不確かさは待つ理由にはなりません。それこそ、私たちがあなたに攻めて小さくしてほしいと招いているものです。

AI 2027 (Kokotajlo et al.) ¡ AI 2040: Plan A ¡ Superintelligence Strategy / MAIM (Hendrycks, Schmidt & Wang) ¡ TASRA (Critch & Russell)

議論を壊すか、実物を壊すか

壊れた前提は、壊れたプロトコルと同じだけ私たちにとって価値があります。一つめの前提に従えば、このスタックの中に見落とされた乗っ取りの道があるなら、それはスタックが何もないよりも悪いことです。広げると言っていたはずの信頼を、まさに一点に集めてしまうからです。このプロジェクトにとっては、体裁を褒める発見より、壊す発見のほうが価値があります。

議論を壊す

前提は上に番号を振ってあります。血が出ると思うところを、公開の場で切ってください。いちばん強い形で持ってきてください。

実物を壊す

ノード間の連携を断片化してください。構成員をシビル攻撃してください。連合の記録を乗っ取ってください。証明を偽造するか、本物の機器の証明をあなたが握る鍵のもとで再生してください。コードもジェネシス記録も、儀式で残した資料も公開されています。

前提はAIより古く、それは弱みではなく強みです。出ていけることが権力への歯止めになるという考えはHirschmanのものです。フォークできることがその出口を本物にする、これはオープンソースの統治が示しました。連携が散らばった人々をひとつの主体に変える、これはBenklerです。ひとりの主権者なしに多くの独立した中心が治められる、これはOstromです。どんな政治が可能かを決めるのは設計だ、これはLessigです。中央の統制に抗えるだけの手元の能力が要る、これはZittrainで、開かれたインターネット上のありふれたパソコンがそれが働く証拠です。どんな組織よりはるかに弱い一台一台の機械が、それでも誰が力を握るかを変えました。自由を善意ではなく暗号で支える、これはcypherpunksです。

cypherpunksと分かれる点がひとつあり、そこが大事です。あの流れは主に、匿名の個人を権力から守るものでした。CIRISは、責任を引き受ける人たちが一緒に動くことを守ります。私たちのものだと言えるのは組み合わせだけです。五十年分のその系譜をAIに当てはめ、乗っ取りに耐える連携を、荷重を支える安全の層に据えたことです。

隣人たちと、その違い

この議論の部品は広く共有されていて、それは問題ではなく裏づけです。まったく違う方向から来た人たちが、同じ診断にたどり着いています。デジタル公共インフラの議論も、主権AIの議論も、同じ形に行き着きます。ばらばらの主体を一つの系にするのは、自給自足ではなく、共有された信頼できるレールです。私たちの知るかぎり、それらの部品をこの主張へ組み合わせたうえで実物まで出しているところは他にありません。隣人たちは名前を呼ぶに値しますし、彼らについて私たちを正すことも、このページへの攻撃のひとつです。

d/acc (Vitalik Buterin)

AIがどれだけ賢くなるかより、誰がそれを握るかのほうが大事だとし、多くの分野にまたがる分散した防御を求めます。方向であって仕組みではありません。連携を荷重を支える層として名指すことも、それを出すこともしていません。

Prime Intellect

どの研究所も最先端を独り占めできないように、分散した学習を作っています。彼らが荷重を支えると見るのは計算資源です。私たちは、手元の機器の能力はすでに動いている材料で、まだ解けていないのは連携のほうだと言います。

知能の呪い (The Intelligence Curse)

AIが普通の市場の力を通じて権力を集めていく道筋を描き、それを分散させようと訴えます。診断と方向はありますが、仕組みがありません。私たちは診断に同意し、仕組みを作りました。

持ち分で重みづけするネットワーク

Bittensorとその仲間は、トークンで値付けした本物の分散連携を動かしています。持ち分は、避けたかったはずの財産による支配を連れ戻します。私たちは代わりに責任に賭けていて、その賭けは上で攻撃できます。

オープンな重み派

オープンなモデルこそ前に進む道だと主張します。私たちは、重みは欠かせない材料だと考えますが、乗っ取りに耐える連携がなければ、百万人の趣味人がひとりの巨人と向き合うだけになると思います。

Alice Protocol

いちばん近い技術的ないとこです。群衆全体でゼロから学習させる、共同体が所有する知能で、どの企業もモデルを所有しません。彼らの答えは、知能を作ること自体を分散させます。私たちの答えは、ありふれたモデルでもう十分だとしたうえで、それを動かす人たちをつなぐ連携のほうを分散させます。

AI Commons

AIが利益を一箇所に集めるか、広く行き渡らせるかは、それがどんな条件で経済に入るかで決まると論じ、そのためのガバナンス上の約束を作ります。同じ診断を、制度が担っています。私たちのほうは、誰の許可も要らないワイヤーフォーマットの水準の工学が担います。

エージェント相互運用プロトコル

Andaとその仲間は、AIエージェントのための分散したID、記憶、相互運用性を作っています。別々のエージェントが一緒に働けるようにする共有のレールです。プロトコル層では近い隣人です。ただし、そのレールを、最後に誰が力を握るのかという安全の主張にまで引き上げてはいません。

アクセスの逆転 (access inversion)

2026年のゲーム理論の結果が、能力の下限という前提を外側から支えています。オープンなモデルを制限すると、普通の守り手から能力を取り上げることになりうる一方で、本気の攻撃者は結局どこかで代わりを手に入れます。下限を保つことは無謀ではありません。それが守りの一手になりえます。

秩序をつくるプロトコル

学術の世界でいちばん近い隣人は、逆の方向から近づいてきます。HuとRongは、すでに分散して誰にも乗っ取れなくなったAIを社会はどう統治するのかと問います。私たちは、残りが一か所に集まってとても強くなるときに、一部のAIを乗っ取られないまま社会がどう保つのかと問います。構造についての見立ては同じで、恐れているものが逆です。どちらも正しいことがありえます。

外部の立場は、公開されている文章から誠実にまとめたものです。どれか取り違えているところがあれば、それもissueを立てる価値があります。

CIRISsafe by structure ¡ open by principle ¡ kind by design