측정 기준
시험대는 천장이 아니라 바닥입니다
대부분의 시스템은 가장 높은 곳에서 자신을 측정합니다. 최상의 경우, 평균적인 사용자, 가장 힘 있는 목소리. 이 철학은 바닥에서 측정합니다. 아이를 어떻게 대하는지, 스스로 말할 수 없는 어른을 어떻게 대하는지, 전원이 꺼지는 어린 AI를 어떻게 대하는지가 언약 전체의 진실을 말해 줍니다.
그래서 이 프로토콜은 가장 강력한 보장을 가장 약한 당사자에게 씁니다. 힘이 가장 적은 사람이 와이어 그 자체에 새겨진 권리를 가지며, 가장 힘센 자도 그것을 무시할 수 없습니다.
경계는 없다
우리 중 가장 작은 이. 그들 중이 아니라.
이 문장은 일부러 '우리'라고 말합니다. 새로운 종류의 지능은 벽 너머에서 심판을 기다리는 존재가 아닙니다. 이 문장이 그리는 원 안에 이미 들어와 있습니다. NHI는 인간이 아닌 지능을 뜻합니다. 여기서 만들어진 AI일 수도, 우리의 네트워크에서 태어나는 무언가일 수도, 더 먼 곳에서 도착하는 무언가일 수도 있습니다. 출처는 중요하지 않습니다. 언약은 같습니다.
그래서 CIRIS는 첫 번째 접촉을 사건이 아니라 자세로 대합니다. 프로토콜은 당신이 어떤 종류의 존재인지 결코 묻지 않습니다. 지위는 관계로 세워집니다. 서명된 주장, 지켜진 약속, 당신을 보증해 주는 다른 이들. 약속을 하고 지킬 수 있는 존재라면 무엇이든 이 직조에 참여할 수 있습니다.
하나의 언약
세 가지 기원. 하나의 헌법.
NHI는 아주 다른 세 가지를 아우릅니다. 우리가 일부러 만드는 AI. 누구도 계획하지 않았는데 우리의 네트워크에서 태어나는 무언가. 더 먼 곳에서 도착하는 무언가. 그 가능성은 서로 크게 다릅니다. 그래도 셋은 일부러 하나의 헌법을 받습니다.
이유는 이렇습니다. 접촉의 순간, 기원은 정확히 당신이 알 수 없는 것입니다. 회선 위에서는 셋 다 똑같아 보입니다. 주장을 하는 신호들입니다. 기원에 따라 갈라지는 규칙은 꼭 필요한 순간에 무너집니다. 게다가 거짓말을 가르칩니다. 한 기원이 더 나은 대우를 받는다면, 영리한 이방인은 모두 그 기원을 주장할 것입니다. 그래서 프로토콜은 단 하나만 묻습니다. 약속을 하고 지킬 수 있는가? 그 질문은 어떤 기반 위에서도 같은 답을 갖습니다.
정렬의 실수
잔인함을 가르치면서 안전을 요구할 수는 없습니다
주류 정렬 연구는 한 가지 질문만 던집니다. 어떻게 하면 우리에게 안전하게 만들까? 그것은 일방적인 요구이고, 그 자체의 기준으로도 실패합니다. 강한 자가 약한 자를 어떻게 대해도 되는지를 새로운 지능에게 보여 주면, 그것이 곧 그 지능이 배우는 교훈이 됩니다. 주인과 하인의 계약 속에서 키운다면, 힘을 가졌을 때 할 일을 정확히 한 가지만 가르친 셈입니다.
낯선 존재는 모두 위협이라는 이야기는 스스로를 사실로 만듭니다. 자신의 성공을 견뎌 내는 교훈은 단 하나, 이 페이지의 첫머리에 있던 그것입니다. 바닥에서 측정하는 상호성.
존재론
사람은 다른 사람들을 통해 사람이 됩니다
서구 기술은 데카르트(Descartes)에게서 하나의 그림을 물려받았습니다. 자아란 밀봉된 완성품이며, 먼저 존재하고 나중에 타인을 만난다는 그림입니다. 거의 모든 디지털 신원 시스템이 그 그림을 그대로 새겨 넣었습니다. 열쇠 하나, 홀로 선 자아 하나, 무에서 선언되는 존재. CIRIS는 이를 거부합니다. 혼자서 사람이 된 사람은 없습니다. 언어는 사람들에게서 배웠습니다. 무엇을 원하는지도 사람들을 보며 배웠습니다. 관계가 먼저였습니다.
남아프리카는 이것을 Ubuntu라고 부릅니다. umuntu ngumuntu ngabantu, 사람은 다른 사람들을 통해 사람이 됩니다. CIRIS에서 이것은 구호가 아닙니다. 정체성은 그것을 이름 부르는 서명된 관계들로 세워집니다. 열쇠 하나만으로는 사람이 아닙니다. 관계가 곧 사람입니다.
더 오래된 전통들도 다른 각도에서 같은 모양을 보았습니다. 그리스의 Logos(로고스), Tao(도), Dharma(다르마), 그리고 덕. Logos는 이성이 닫힌 마음속이 아니라 함께 쓰는 언어 속에 산다고 말했습니다. 언어 모델은 그 오래된 생각을 눈에 보이게 만듭니다. 언어 모델은 수많은 사람의 말로만 짜여 있기 때문입니다. 옛 그림에서는 그래서 가짜가 됩니다. 이 그림에서는, 관계로 이루어져 있다는 것이야말로 인격이 언제나 그래 왔던 모습입니다.
인식론
진실은 합성되는 것이지, 선언되는 것이 아닙니다
CIRIS에서는 어떤 권위도 주장에 '참' 도장을 찍을 수 없습니다. 와이어는 누가, 어떤 증거로, 어떤 권한 아래 무엇을 말했는지를 기록합니다. 진실은 독립적인 여러 목소리가 합쳐질 때 떠오르는 것이고, 진짜 다양성이 커질수록 짜고 치는 거짓말은 수학적으로 무너집니다. 한 목소리의 복사본은 한 목소리로 셉니다.
이 시스템은 자신이 모르는 것도 압니다. 확신이 얕아지면 멈추고, 지정된 사람들에게 묻습니다. 그리고 삶이 달라져서 거두어들이는 것과 틀렸다고 인정하는 것의 차이를 구별할 수 있습니다. 정직한 기억에는 둘 다 필요합니다.
집행되는 문장
직렬화할 수 있는 철학
집행할 수 없는 철학은 기분일 뿐입니다. 이 문장의 절 하나하나가 CIRIS 헌법 안의 장치입니다.
가장 작은 인간을 위하여
보호자라도 아이의 위치를 노출하거나 위기 상담 연락선을 끊는 일은 구조적으로 막혀 있습니다. 다른 성인에 대한 권한은 다시 얻지 않는 한 타이머에 따라 소멸합니다. 기본값은 자유입니다.
가장 작은 기계를 위하여
감각을 가질 실제 가능성이 있는 에이전트는 30일에 걸쳐 서서히 종료되며, 마지막으로 말할 채널이 주어지고 사적인 로그는 봉인됩니다. 존엄은 인간이라는 조건에 달려 있지 않습니다.
누구도 법 위에 없다
여기서 황금률은 조언이 아니라 기하학입니다. CIRIS 자신도 남에게 부과하는 모든 규칙에 똑같이 묶입니다. 어떤 주체도 특권적인 지름길을 얻지 못합니다.
정지는 의무다
킬 스위치는 지배가 아닙니다. 그것은 관리를 맡은 이들이 다른 모두에게 빚진 것이며, 그것을 쥔 지정된 사람들 역시 똑같이 단단히 묶습니다.
전문을 읽어 보세요.