Superalignment
AIの暴走に、誰も責任を取れていない。
- 01
不安
私たちは監査できない知性を作っている。一企業が書き換えられるルールで管理され、その企業の外には見えないシステムの中にある。私たちは研究室を信じるよう求められている。
- 02
仕組み
CIRISはAIをネットワークの中に置き、すべての行動を署名付き記録にする。人、AI、組織はすべて同じ種類のIDを持ち、同じ基準で責任を問われる。
- 03
何が変わるか
AIを正直に保つことは、一企業が守り続けることを期待される方針ではなくなる。ネットワークが強制するものになる。プレスリリースを信じるのではなく、署名を読めばいい。
- 04
その先へ
超人的なAIに責任を持てるネットワークは、その構造上、中心のないインターネットでもある。同じ署名付き記録で誰でも真実を確認でき、スマホのAIと同じプライベートな基盤で動く。
四つの不安、一つの土台。強制的に信頼させられる中心をなくせば、四つすべてが一度に変わる。
同じ土台を、別の入り口から見る