버텨야 하는 부분

주장

AI의 힘을 흩어진 상태로 지키려는 어떤 오픈소스 계획에서도, 하중을 떠받치는 조각은 열린 모델 가중치도 아니고 영리한 에이전트 도구도 아니라 분산 조율 메시입니다. 장악에 견디는 메시를 만들 수 있다면, 수많은 독립 행위자가 어떤 기업에도 어떤 국가에도 미래를 잠글 권한을 내주지 않을 수 있습니다. 만들 수 없다면, 오픈소스 안전 논변은 자기 논리 안에서 무너집니다.

이 주장은 일부러 강한 형태로 적었습니다. 그리고 이 메시는 제안서가 아닙니다. 돌아가고 있습니다. 그래서 이제 물음은 그런 것이 존재할 수 있는가가 아닙니다. 이것이 장악에 견디는가이고, 그 물음에는 공격해 보면 답할 수 있습니다.

논변

전제 다섯 개. 하나만 깨져도 주장은 무너집니다.

백서가 아닙니다

메시는 돌아가고 있습니다

마지막 신뢰 뿌리는 2026년 8월에 구워 넣었습니다. 이름이 알려진 사람들 셋 중 둘의 정족수가 승인한 서명된 제네시스 기록이고, 서명된 바이트 안에 첫 정본 서버의 주소가 들어 있습니다. 참여하는 데에는 어느 단계에서도 도메인 이름이 필요하지 않습니다. 정본 서버는 지금도 더 올라오고 있습니다.

그 정족수 뒤에 있는 키들도 말뿐인 것이 아닙니다. 여섯 개 모두가 진짜 FIPS 140-3 하드웨어 안에서 만들어졌음을, 펌웨어와 터치 정책이 인증서 자체에 기록된 채로 증명하는 공개 검사를 누구나 다시 돌려 볼 수 있습니다.

어디서 무너질 수 있나

우리가 가장 시도해 보길 바라는 공격 네 가지

헌법은 알려진 위험을 공개 장부로 남기고, 각각을 대비책이 딸린 내기로 적어 둡니다. 그 장부 밖에서, 우리가 보기에 이 주장이 가장 드러나 있는 곳이 이 두 군데입니다. 우리는 여러분이 이곳을 감상하기보다 때려 주기를 바랍니다.

프로토콜 장악에 대한 답

유익증명 (Proof of Benefit)

알고리즘 입헌주의에 관한 최근 연구는 이렇게 경고합니다. 통치를 프로토콜 안으로 옮긴다고 지배가 끝나지는 않는다는 것입니다. 돈, 기술적 통제, 만들어 낸 신원이 그대로 새 주권자가 될 수 있습니다. 이 경고는 정당합니다. 메시는 여기에 세 번째 보안 모델로 답합니다. 작업증명(proof of work)과도, 지분증명(proof of stake)과도 다른 모델입니다.

CIRIS 거버넌스에서 자격은 사는 것도, 캐내는 것도 아닙니다. 설계상 그것은 벌어야 합니다. 누가 했는지 짚어낼 수 있고 위조하기에 비싼 기여에 대해, 남에게 넘길 수 없는 크레딧이 쌓입니다. 값싼 박수는 무게가 없고, 끝낸 일에 대해서는 상대편의 확인을 요구할 수 있습니다. 서로 얽힌 목소리는 CIRIS의 다른 모든 곳과 똑같은 상한선을 만납니다. 신원을 불려 나가는 패거리는 독립된 목소리 하나의 무게로 주저앉습니다. 그리고 벌어들인 권한은 한계 안에 머물고, 거둬들일 수 있으며, 이의 제기에 열려 있습니다. 그 권한은 누구의 것과도 똑같이 삭아 갑니다. 오래 있었다는 것까지 포함해서 그렇습니다. 결코 영구적인 주권이 되지 않습니다.

이것으로 장악이 사라지지는 않고, 헌법도 그렇게 적어 두었습니다. 큰 규모에서 벌어들인 크레딧으로 하는 거버넌스는 우리가 인정하는 내기이지 검증된 결과가 아니며, 정교하게 얽힌 행위자를 잡아내는 일은 아직 열린 숙제입니다. 유익증명이 바꾸는 것은 셈법입니다. 공유지에 대한 정당한 영향력을 얻으려면, 공격자는 먼저 그곳의 값진 구성원처럼 행동해야 합니다.

Hu & Rong, “Is Decentralized AI Governable? From Regulative Policy to Constitutive Protocol” (arXiv 2605.24538)

여러 갈래의 미래

무슨 일이 벌어질 수 있는지, 그대로 말하면

이 페이지가 향하는 미래는 희망적입니다. 지능의 중심이 여럿 있고, 사람인 것도 아닌 것도 있으며, 그 어느 쪽도 나머지를 소유하지 못하고, 그러면서도 협력합니다. 레일이 그렇게 깔려 있어서 정직한 편이 장악보다 싸게 먹히기 때문입니다. 그런 미래는 향해 갈 만하고, 메시는 오늘 이미 돌아가고 있습니다. 기반이 있는 희망이 기반 없는 희망을 이기기 때문입니다.

다만 날 선 쪽도 그대로 말해 둡니다. 장악에 견디는 일이 성공해도 경쟁은 끝나지 않습니다. 한 층 위로 올라갈 뿐입니다. 성숙한 메시 둘, 또는 메시 하나와 싱글턴 ASI 하나가 교착에 갇힌 채 자원을 두고 다툴 수 있습니다. 교착은 서로가 서로의 독점을 막아낼 때의 모습입니다. 문제는 그것이 살 만한 상태로 남느냐입니다. 검증된 약속, 동의에 기반한 연합, 정복 없는 합병은 여기에서 실제로 열려 있는 길이고, 불투명한 경쟁자에게는 없는 길입니다. 그리고 경주의 압박, 선 밖의 자원, 전시의 긴장 속에서 복도를 벗어나는 일은 헌법이 없애주지 못하는 실제 위험입니다.

억지 체제 아래에서 헌법 메시 둘이 싱글턴 ASI 둘보다 나은지, 그리고 얻는 것과 잃는 것을 어떻게 저울질할지는 아직 열린 질문입니다. 검증 가능한 장부와 동의의 모양을 한 연합이 저울을 우리 쪽으로 기울인다고 봅니다. 그것을 증명하지는 못했고, 그 사실도 함께 말해 둡니다.

이 페이지의 모든 것이 그렇듯, 이것은 없앨 수 없는 불확실성 속에서 하는 행동입니다. 불확실성은 기다릴 이유가 아닙니다. 그것이야말로 우리가 여러분에게 공격해서 줄여 달라고 청하는 대상입니다.

AI 2027 (Kokotajlo et al.) · AI 2040: Plan A · Superintelligence Strategy / MAIM (Hendrycks, Schmidt & Wang) · TASRA (Critch & Russell)

선조들

이 전제들은 AI보다 오래되었고, 그것은 약점이 아니라 강점입니다. 떠날 수 있음이 권력을 견제한다는 생각은 Hirschman에게서 왔습니다. 포크할 수 있어야 떠남이 실제로 믿을 만해진다는 것은 오픈 소스 거버넌스가 보여 주었습니다. 조율이 흩어진 사람들을 하나의 행위자로 바꾼다는 것은 Benkler입니다. 하나의 군주 없이도 여러 독립된 중심이 다스릴 수 있다는 것은 Ostrom입니다. 어떤 정치가 가능한지를 구조가 정한다는 것은 Lessig입니다. 중앙의 통제에 맞설 만큼의 현장 능력이 필요하다는 것은 Zittrain이고, 열린 인터넷에 놓인 평범한 PC가 그것이 실제로 통한다는 증거입니다. 어떤 기관보다도 훨씬 약한 낱낱의 기계들이 권력을 누가 쥐는지를 바꿔 놓았습니다. 자유를 선의가 아니라 암호로 붙든다는 것은 cypherpunks입니다.

cypherpunks와 갈라지는 지점이 하나 있고, 그 지점이 중요합니다. 그 전통은 대체로 이름 없는 개인을 권력에서 지켰습니다. CIRIS는 함께 움직이는, 책임을 지는 사람들을 지킵니다. 우리 것이라고 말할 수 있는 부분은 그 조합뿐입니다. 오십 년에 걸친 그 계보를 AI에 적용하고, 장악에 견디는 조율을 무게를 받치는 안전 층으로 두는 것입니다.

이 주장 가까이 있는 사람들

이웃들, 그리고 차이

이 논변의 조각들은 널리 공유되어 있고, 그것은 문제가 아니라 검증입니다. 아주 다른 길을 거쳐 온 사람들이 같은 진단에 이르렀습니다. 디지털 공공 인프라 연구와 주권 AI 연구도 같은 모양에 닿습니다. 흩어진 행위자들을 하나의 체계로 만드는 것은 자급자족이 아니라 함께 쓰는 믿을 만한 선로입니다. 우리가 아는 한, 그 조각들을 이 주장으로 묶고 실물까지 내놓은 곳은 없습니다. 이웃들은 이름을 불러 줄 만하고, 그들에 대해 우리를 바로잡는 것도 이 페이지를 공격하는 한 가지 방법입니다.

바깥의 입장들은 공개된 글에서 선의로 간추린 것입니다. 우리가 어느 하나라도 잘못 옮겼다면, 그것도 이슈를 열 만한 일입니다.