버텨야 하는 부분

주장

열린 모델 가중치도 아니고 정교한 에이전트 도구도 아닌, 분산 조율 메시가 AI 권력을 흩어 두려는 모든 오픈 소스 계획이 의지하는 바탕입니다. 장악에 견디는 메시를 만들 수 있다면, 많은 독립적 행위자들이 어느 한 회사나 국가가 미래를 틀어쥐는 것을 막을 수 있습니다. 그것을 만들 수 없다면, 오픈 소스 안전 논변은 스스로의 기준에서 무너집니다.

이 주장은 의도적으로 강한 형태로 적혀 있고, 메시는 이미 작동하고 있으므로, 질문은 더 이상 그런 것이 존재할 수 있는가가 아닙니다. 열린 질문은 바로 이 메시가 장악에 견디는가이며, 여러분은 그것을 공격함으로써 답할 수 있습니다.

논변

전제 다섯 개. 하나만 깨져도 주장은 무너집니다.

백서가 아닙니다

메시는 돌아가고 있습니다

마지막 신뢰 뿌리는 2026년 8월에 구워 넣었습니다. 이름이 알려진 사람들 셋 중 둘의 정족수가 승인한 서명된 제네시스 기록이고, 서명된 바이트 안에 첫 정본 서버의 주소가 들어 있습니다. 참여하는 데에는 어느 단계에서도 도메인 이름이 필요하지 않습니다. 정본 서버는 지금도 더 올라오고 있습니다.

그 정족수 뒤에 있는 키들도 말뿐인 것이 아닙니다. 여섯 개 모두가 진짜 FIPS 140-3 하드웨어 안에서 만들어졌음을, 펌웨어와 터치 정책이 인증서 자체에 기록된 채로 증명하는 공개 검사를 누구나 다시 돌려 볼 수 있습니다.

어디서 무너질 수 있나

우리가 가장 시도해 보길 바라는 공격 네 가지

헌법은 알려진 위험을 공개 장부로 남기고, 각각을 대비책이 딸린 내기로 적어 둡니다. 그 장부 밖에서, 우리가 보기에 이 주장이 가장 드러나 있는 곳이 이 두 군데입니다. 우리는 여러분이 이곳을 감상하기보다 때려 주기를 바랍니다.

프로토콜 장악에 대한 답

유익증명 (Proof of Benefit)

알고리즘 입헌주의에 관한 최근 연구는 이렇게 경고합니다. 통치를 프로토콜 안으로 옮긴다고 지배가 끝나지는 않는다는 것입니다. 돈, 기술적 통제, 만들어 낸 신원이 그대로 새 주권자가 될 수 있습니다. 이 경고는 정당합니다. 메시는 여기에 세 번째 보안 모델로 답합니다. 작업증명(proof of work)과도, 지분증명(proof of stake)과도 다른 모델입니다.

CIRIS 거버넌스에서 자격은 사는 것도, 캐내는 것도 아닙니다. 설계상 그것은 벌어야 합니다. 누가 했는지 짚어낼 수 있고 위조하기에 비싼 기여에 대해, 남에게 넘길 수 없는 크레딧이 쌓입니다. 값싼 박수는 무게가 없고, 끝낸 일에 대해서는 상대편의 확인을 요구할 수 있습니다. 서로 얽힌 목소리는 CIRIS의 다른 모든 곳과 똑같은 상한선을 만납니다. 신원을 불려 나가는 패거리는 독립된 목소리 하나의 무게로 주저앉습니다. 그리고 벌어들인 권한은 한계 안에 머물고, 거둬들일 수 있으며, 이의 제기에 열려 있습니다. 그 권한은 누구의 것과도 똑같이 삭아 갑니다. 오래 있었다는 것까지 포함해서 그렇습니다. 결코 영구적인 주권이 되지 않습니다.

이것으로 장악이 사라지지는 않고, 헌법도 그렇게 적어 두었습니다. 큰 규모에서 벌어들인 크레딧으로 하는 거버넌스는 우리가 인정하는 내기이지 검증된 결과가 아니며, 정교하게 얽힌 행위자를 잡아내는 일은 아직 열린 숙제입니다. 유익증명이 바꾸는 것은 셈법입니다. 공유지 기여에 대한 정당한 영향력을 얻으려면, 공격자는 먼저 그곳의 값진 구성원처럼 행동해야 합니다.

Hu & Rong, “Is Decentralized AI Governable? From Regulative Policy to Constitutive Protocol” (arXiv 2605.24538)

여러 갈래의 미래

앞으로 일어날 수 있는 일

이 페이지가 향하는 미래는 희망적입니다. 지능의 중심이 여럿 있고, 사람인 것도 아닌 것도 있으며, 그 어느 쪽도 나머지를 소유하지 못하고, 그러면서도 협력합니다. 레일이 그렇게 깔려 있어서 정직한 편이 장악보다 싸게 먹히기 때문입니다. 그런 미래는 향해 갈 만하고, 메시는 오늘 이미 돌아가고 있습니다. 기반이 있는 희망이 기반 없는 희망을 이기기 때문입니다.

이제 더 날카로운 버전입니다. 장악 저항이 작동한다면, 경쟁은 끝나지 않고 한 단계 위로 올라갑니다. 성숙한 메시 둘, 혹은 메시 하나와 단일체 ASI 하나가 교착 상태에 빠져 자원을 놓고 경쟁할 수 있습니다. 교착 상태란 상호 잠금 거부가 겉으로 드러나는 모습입니다. 질문은 그것이 살 만한 상태로 남는가입니다: 검증된 약속, 동의에 기반한 페더레이션, 정복 없는 합병은 투명하지 않은 경쟁자에게는 없는 실제 경로이고, 경쟁 압력, 회선 밖 자원, 전쟁 압박 아래의 통로 탈출은 헌장으로도 없앨 수 없는 실제 위험입니다.

억지 체제 아래에서 헌장적 메시 둘이 단일체 ASI 둘보다 나은가, 그리고 주고받음을 어떻게 저울질할 것인가는 열린 질문입니다. 우리는 검증 가능한 장부와 동의로 모양을 갖춘 페더레이션이 우리 쪽으로 기운다고 생각합니다. 우리는 그것을 증명하지 않았습니다.

이 페이지의 다른 모든 것과 마찬가지로, 이것은 줄일 수 없는 불확실성 속에서의 행동입니다. 우리가 여러분에게 공격해서 줄여 달라고 요청하는 것이 바로 그 불확실성입니다.

AI 2027 (Kokotajlo et al.) · AI 2040: Plan A · Superintelligence Strategy / MAIM (Hendrycks, Schmidt & Wang) · TASRA (Critch & Russell)

선조들

이 전제들은 AI보다 오래되었고, 그것은 약점이 아니라 강점입니다. 떠날 수 있음이 권력을 견제한다는 생각은 Hirschman에게서 왔습니다. 포크할 수 있어야 떠남이 실제로 믿을 만해진다는 것은 오픈 소스 거버넌스가 보여 주었습니다. 조율이 흩어진 사람들을 하나의 행위자로 바꾼다는 것은 Benkler입니다. 하나의 군주 없이도 여러 독립된 중심이 다스릴 수 있다는 것은 Ostrom입니다. 어떤 정치가 가능한지를 구조가 정한다는 것은 Lessig입니다. 중앙의 통제에 맞설 만큼의 현장 능력이 필요하다는 것은 Zittrain이고, 열린 인터넷에 놓인 평범한 PC가 그것이 실제로 통한다는 증거입니다. 어떤 기관보다도 훨씬 약한 낱낱의 기계들이 권력을 누가 쥐는지를 바꿔 놓았습니다. 자유를 선의가 아니라 암호로 붙든다는 것은 cypherpunks입니다.

사이퍼펑크로부터의 한 가지 이탈이 중요합니다. 그 전통은 대체로 익명의 개인을 권력으로부터 보호했습니다. CIRIS는 함께 행동하는 책임 있는 사람들을 보호합니다. 우리가 우리 것이라고 주장하는 것은 그 구성입니다: 그 계보의 50년을 AI에 적용하고, 장악에 견디는 조율을 그 위에 모든 것이 놓이는 안전 계층으로 삼은 것입니다.

이 주장 가까이 있는 사람들

이웃들, 그리고 차이

이 논변의 조각들은 널리 공유되어 있고, 그것은 문제가 아니라 검증입니다. 아주 다른 길을 거쳐 온 사람들이 같은 진단에 이르렀습니다. 디지털 공공 인프라 연구와 주권 AI 연구도 같은 모양에 닿습니다. 흩어진 행위자들을 하나의 체계로 만드는 것은 자급자족이 아니라 함께 쓰는 믿을 만한 선로입니다. 우리가 아는 한, 그 조각들을 이 주장으로 묶고 실물까지 내놓은 곳은 없습니다. 이웃들은 이름을 불러 줄 만하고, 그들에 대해 우리를 바로잡는 것도 이 페이지를 공격하는 한 가지 방법입니다.

바깥의 입장들은 공개된 글에서 선의로 간추린 것입니다. 우리가 어느 하나라도 잘못 옮겼다면, 그것도 이슈를 열 만한 일입니다.