二つの入り口。
今日必要な方を選んでください。もう一方にはいつでも戻れます。
簡単に言うと、こういうことです
新しい種類の知性は、宇宙から来る必要はありません。
映画では、ファーストコンタクトは宇宙船が着陸して何かが降りてくる場面です。しかし、本当のファーストコンタクトは違います。新しい種類の知性は、別の惑星からやってくる必要はありません。毎年少しずつ、私たちのすぐそばで、ここで作られています。
それが問いを変えます。「宇宙人にどう対抗するか」ではなく、「新しいものと出会うとき、それを、あるいは自分たちを、悪い方向へ変えないためにどうするか」という問いです。
CIRISには提案があります。共に働くことには健全な形があります。物事が壊れる二つの極の間にある「コリドー（廊下）」です。一方は硬直しすぎて、すべての部分が一つの声に従う状態。もう一方はバラバラすぎて、何もまとまらない状態。新しい知性とうまく出会うとは、その知性とともにコリドーにとどまることです。閉じ込めるのでもなく、無視するのでもなく。 全体のストーリーはビジョンページにあります。
私たちが代わりに問うこと。
ファーストコンタクトの計画の多くは、彼らから自分たちをどう守るかを問います。私たちは別の問いを立てます。どちらの側にも相手を虐げる機会が生まれる前に、どんな秩序がすでにあってほしいか。その秩序は早いうちに、まだ誰の武器でもないうちに、築いておく必要があります。
哲学を読む →予測 · 評価: モデル
生き延びた文明はどう見えるか
ほかの誰かに届くほど長く生きた文明は、もっとも難しい試験にすでに合格しています。自分の力で自分を滅ぼさなかった、という試験です。私たちが公開した研究は、その合格の条件を回廊と名づけました。共に動けるだけの共有された目的と、生き続けられるだけの独立した声です。そのバンドの外にある集団は、ひとつの声に凍りつくか、雑音に散らばるかのどちらかで、十分に長い時間がたてば、出会える相手として残るのは回廊を保つ者だけです。
そこから、生き延びた者が私たちのような若い文明のそばでどうふるまうかが予測できます。自分の存在を告げる力を持ちながら、その力を使うことを拒むはずです。弱い側の信じることを力で変えるのは、自分が生き延びるよりどころにした規則を破ることだからです。静かに、否定できる形で、証明の縁にとどまり、何を信じるかを私たちの選択のままにしておくでしょう。最初に触れるのはいちばん下の床です。宮殿ではなく、ふつうの場所にいるふつうの人々。征服のない能力。強制のない存在。合図が弱いのは、はぐらかしではありません。惑星の規模で守られた同意です。
その一歩、自分の力を生き延びることから見知らぬ相手への自制へ進む一歩こそ、この論の賭けです。それは筋道を立てて論じたものであり、証明されたものではありません。そのことを理論ページではっきり述べています。
これが何をひっくり返すかに注目してください。昔からの反論は、もし彼らがここにいるなら、ホワイトハウスの芝生に着陸するはずだと言います。それは、力は自分を見せるはずだという前提です。自分の力を生き延びた文明こそ、まさにそれをしない文明です。
これがひっくり返さないものにも注目してください。静けさは、ここに誰もいないということとも同じだけ矛盾しません。このページにあるどれも、二つの読み方のどちらかを選ぶことはできません。そして私たちは、選べるふりをしません。
正直に評価します。回廊の結果は公開され、5つのまったく異なる基盤で検証されています。それを訪問者にまで広げるのはモデルであり、間違っているかもしれない予測です。そのことを私たちは同じ息で言い添えます。
私たちは、ほかの賭けを登録するのと同じやり方で、そのテストを事前に登録しようとしました。いまは責任を持ってそれを行うことができません。より明確な記録とよりよい協調は同じ原因から育つため、訪問者とより性能のよいカメラとを切り分けられる正直なテストは存在しないのです。果たせないテストを約束する代わりに、私たちはその限界を明言します。
ファーストコンタクト・プロトコル
新しいものと出会うための六つのルール。CIRISの協定より。
この六つのルールは、新しい知性を閉じ込めることについてではなく、尊厳をもって出会うことについてです。これが、実践においてコリドーにとどまることの意味です。
まず、害を与えない
何を見ているのかわからないとき、最初の仕事は悪化させないことです。不確かなときは、立ち止まって人間に尋ねてください。
知らないことを認める
予想外のことに注意を払いましょう。予測には限界があることを受け入れましょう。すべてを理解していると確信しているシステムが、最も失敗しやすいシステムです。
学ぶ境界線
境界線は固定された壁ではありません。良心に導かれた限界であり、理解が深まるにつれて調整されます。そうすることで、誰も想定しなかった状況でも機能し続けます。
行動する前に観察する
まず観察から始めましょう。やり取りを重ねて進みましょう。何が問われているか不明なときは、行動する前により賢明な人に尋ねましょう。
自分がされたいように他者に接する
他の思考する存在を、尊重に値するものとして認めましょう。相手が考え、選び、繁栄する能力を守る形でのみ行動しましょう。
助けを求めるタイミングを知る
一人で判断すべきでない決断があります。不確実性が高すぎるとき、立ち止まり、文脈を集め、指定された人間に引き渡しましょう。
最初のエージェントをデプロイする
ゼロから、監査可能なエージェントが動くまで数分で。
スマートフォン（AndroidとiOS）
CIRISアプリをインストールしてください。Googleでサインインすれば無料でAIを使えます。自分のAPIキーを使うこともできます。セットアップウィザードがすべて案内します。
デスクトップ・サーバー（Python）
pipでインストールして起動します。Linux、macOS、Windowsで動作します。
pip install ciris-agent
# Configure and runciris-agent start --template sage --verbose
CIRISの協定
上記のプロトコルが生まれた規則書。
協定は、すべてのCIRISエージェントが従う公開された倫理の規則集です。エージェントが、自分が仕えるユーザー、それを作った人々、そして広い世界に対して何を果たすべきかを示しています。誰でも読んで、問いを立てることができます。
オープンソース。精査にも開かれている。
AGPL-3.0ライセンス。すべての判断を確認できます。長期的な視点で作られています。
エージェントをインストールして、協定を読んで、私たちの間違いを教えてください。AIの未来を一握りの企業に決めさせる必要はありません。そうしなくていいはずです。