Твердження
Децентралізована мережа координації, а не відкриті ваги моделей і не вправний інструментарій для агентів, — ось на чому тримається кожен план з відкритим кодом для збереження розподіленості влади ШІ. Якщо стійку до захоплення мережу можна побудувати, багато незалежних гравців можуть не дати жодній окремій компанії чи державі замкнути контроль над майбутнім. Якщо її не можна побудувати, аргумент безпеки з відкритим кодом провалюється за власними критеріями.
Твердження сформульоване в сильній формі навмисно, і мережа вже працює, тож питання більше не в тому, чи може таке існувати. Відкрите питання — чи ця мережа стійка до захоплення, і відповісти на нього можна, атакуючи її.
Аргумент
П'ять передумов. Зламайте будь-яку, і твердження впаде.
P1 · Концентрація гірша за зловживання
Найбільша небезпека від просунутого ШІ полягає в тому, що один гравець замкне контроль над майбутнім, а не в тому, що багато гравців зловживатимуть малими моделями. Якщо перевернути цей порядок, разом із ним перевернеться і все наступне.
Статус: ставка, зважена цінностями. Ми не можемо назвати спостереження, яке б її спростувало.
P2 · «Переможець забирає все» прагне переможця
Ринкова конкуренція в умовах трансформаційного ШІ вказує на єдиного переможця, чиї цінності формують його акціонери. Вихід із цих перегонів зі збереженою структурою ризикує назавжди закріпити поганий результат.
Статус: у принципі перевіряється тим, як ринки насправді концентруються. Зареєстрованого спростування поки немає.
P3 · Малі комп'ютери лишаються спроможними
Використання інструментів і розумна обв'язка дають відкритим моделям на звичайному залізі виконувати роботу, яка ще недавно була доступна лише передовим моделям. Рів навколо тренування справжній. Рів навколо розгорнутої спроможності протікає.
Статус: виміряний, і це єдиний засновок із чіткою смертю: якщо розрив у спроможності знову відкриється й лишиться відкритим, цей засновок помирає, а стратегія змінюється. Це рухома величина, тож за нею й далі стежать.
P4 · Утримати поріг
Розпорошеним учасникам не треба перемагати передовий рівень. Їм треба лишатися вище межі, за якою ще можливо піти, перевірити й відмовити, щоб ніхто не міг дешево придушувати суперників. Це набагато нижча планка, ніж паритет, і саме вона має значення.
Статус: це ставка, і ми позначили її на цій сторінці. Ніхто не формалізував, де саме лежить поріг.
P5 · Натовп це не суб'єкт
Мільйон спроможних, але ізольованих машин це натовп ентузіастів. Перетворює їх на щось, здатне відмовитися від замикання, надійна координація: знаходити одне одного, перевіряти одне одного, ділитися програмами й співпрацювати без вузького місця, яке можна купити, викликати до суду або перекинути.
Статус: змістовне, а не визначальне твердження. Ринки та рої координуються без спроєктованих рейок, тож твердження, яке насправді робить P5, — це що незапроєктована координація не може відмовити замиканню контролю. Це можна заперечити, і на цьому тримається весь аргумент.
Відкриті ваги та якісні обв'язки агентів є необхідними вхідними складниками. Чинне припущення полягає в тому, що достатньо хорошого достатньо: CIRIS не женеться за передовим рубежем, він утримує поріг. Інженерна проблема, яку досі не розв'язано і від якої залежить усе інше, — це координація, стійка до захоплення.
Що рухається мережею
Огорожі або відкритість це хибний вибір
Дискусія про безпеку ШІ раз у раз пропонує двоє дверей. За одними безпека означає огорожі, які тримають у центрі, тобто ту саму проблему концентрації з бейджем безпеки. За другими відкритість означає роздати сиру спроможність і сподіватися на краще, і саме так розпорошене зловживання отримує свою інфраструктуру.
Увесь сенс CIRIS у тому, щоб відмовитися від цього вибору й поєднати те, що ці двері тримають нарізно. Кожен агент CIRIS працює під машинним сумлінням: Конституція входить у кожне рішення разом із підписаними квитанціями та справжнім вимикачем, який тримають названі поіменно люди. А сумління рухається мережею, збудованою так, щоб чинити опір захопленню, тож і сумління нікому не належить.
Жодна половина не працює сама. Сумління під центральним контролем це та сама огорожа, тільки чемніша. Мережа без сумління це лише розподіл, і вона заслуговувала б на ту тривогу про зловживання, яку сама й накликає. Ця сторінка обстоює мережу, бо саме мережа є нерозв'язаною частиною. А несе вона ШІ із сумлінням. У цьому й річ.
Не біла книга
Мережа працює
Останній корінь довіри заклали в серпні 2026 року: підписаний запис генезису, схвалений кворумом двох із трьох названих людей, який несе адресу першого канонічного сервера всередині підписаних байтів. Щоб приєднатися, доменні імена не потрібні в жодній ланці цього ланцюга. Зараз до мережі підключаються нові канонічні сервери.
Ключі за цим кворумом теж не просто заява. Будь-хто може повторно запустити публічну перевірку, яка доводить, що всі шість створені всередині справжнього обладнання FIPS 140-3, а прошивка й політика дотику записані в самих сертифікатах.
Немає посередника, якого можна захопити
Вузли знаходять одне одного й отримують програми через підписані записи, а не через магазини застосунків, реєстри пакетів чи доменні імена.
Корінь може створити будь-хто
Корінь CIRIS це типовий варіант у постачанні, а не єдиний можливий. Будь-який оператор може створити рівноцінний корінь, і кожен клієнт сам обирає, яким кореням довіряти. Той корінь, що йде в комплекті, лишається типовим варіантом, а не єдиним коренем.
Підзвітність, а не частка
Статус походить із підзвітності, простежуваної живим ланцюгом до відповідальної людини, а не з багатства. І фальшиві учасники не можуть проголосувати самі за себе: кворуми прийому, які справді важать, рахують засновників, а не натовп.
Де це може зламатися
Чотири атаки, які ми найбільше хочемо побачити
Конституція веде публічний реєстр відомих ризиків, викладених як ставки з планами відступу. Поза цим реєстром ось два місця, де, як ми думаємо, твердження найвразливіше. Ми радше хочемо, щоб ви по них вдарили, ніж ними милувалися.
Типовий вибір стає центром
Кожна децентралізована система в історії на практиці виростила центр: BitTorrent отримав трекери, електронна пошта отримала Gmail, а дослідження відкритої співпраці показують, що зростання все одно породжує олігархію. Наш корінь постачається як типовий, а більшість людей ніколи не змінюють типові налаштування, тож наявність багатьох коренів захищає лише тих, хто насправді користується іншим. Тож важливий тест — чи може інший корінь стати соціально й економічно життєздатним без дозволу першого кореня. Якщо ви можете показати, що це неможливо, твердження про те, що мережа стійка до захоплення, не проходить. Математика межі виживання загострює питання ще сильніше: корені, що працюють на тому самому програмному забезпеченні, з тими самими типовими налаштуваннями й тими самими моделями, корельовані, а корельовані корені — це один корінь під багатьма іменами. При половинній кореляції тисяча коренів рахується як два. Тож вимірювана версія запитує, наскільки насправді корельовані корені, і власний інструмент мережі N_eff можна спрямувати саме на це.
Виготовлені люди
Статус тримається на підзвітних людях, а не на частці. Найгостріше питання — чи це витримає супротивника, здатного «виготовляти» підзвітних людей: підроблені особи зі справжніми документами, примушені розпорядники або просто терплячі співробітники. Це наше найбільше відкрите питання.
Поріг це ставка
Ми припускаємо, що достатньо доброго достатньо: жодних перегонів за передовою, лише утримання тієї межі, за якою перевірка, вихід і відмова залишаються можливими. Ніхто досі не описав, де саме проходить ця межа, тобто за якого поєднання спроможності, участі та координації мережа, яку не можна захопити, справді не дає набагато багатшому, швидшому й краще пов'язаному гравцеві замкнути всіх у себе. Координація перетворює розподілену спроможність на розподілену здатність діяти. Чи достатньо порогової здатності діяти, це найглибше емпіричне питання в усьому твердженні, і ми на нього не відповіли.
Сліпа пляма нашого власного приладу
Стійкість до Sybil спирається на N_eff, а N_eff це попарний вимір. Є вид координації, якого N_eff доказово не бачить: узгодженість, збудована так, що кожна пара виглядає незалежною, тоді як ціле рухається разом. Цей канал відомий із боку моделі і на мережі його ще не виміряли. Сліпа пляма приладу це поверхня атаки, тож ми називаємо її й запрошуємо вас побудувати атаку.
Відповідь на захоплення протоколу
Доказ користі (Proof of Benefit)
Нові дослідження алгоритмічного конституціоналізму попереджають: перенесення врядування в протоколи не скасовує панування. Гроші, технічний контроль або виготовлені ідентичності просто стають новими володарями. Це попередження справедливе. Мережа відповідає на нього третьою моделлю безпеки, відмінною від доказу роботи (proof of work) і доказу частки (proof of stake).
Статус у врядуванні CIRIS не купують і не намайнюють. За задумом його заробляють: кредити, які не можна передати, за внески, що їх можна приписати конкретній особі і які дорого підробити. Дешеві оплески не важать нічого, а щодо виконаної роботи можна вимагати підтвердження від іншої сторони. Пов'язані голоси впираються в ту саму стелю, що й усюди в CIRIS: кліка, яка множить особистості, стискається до ваги одного незалежного голосу. А зароблена влада лишається обмеженою, відкличною і відкритою для оскарження. Вона згасає, як у всіх, зокрема й вислуга років. Вона ніколи не стає постійним суверенітетом.
Це не усуває захоплення, і Конституція так і каже: врядування на зароблених кредитах у великому масштабі це визнана ставка, а не підтверджений результат, а виявляти витончених пов'язаних гравців ще належить навчитися. Доказ користі (Proof of Benefit) змінює економіку справи. Щоб здобути законний вплив на Стрічку надбання, нападник спершу мусить поводитися як її цінний учасник.
Можливі майбутні
Що може статися
Майбутнє, до якого веде ця сторінка, обнадійливе: багато центрів розуму, людських і ні, і жоден не здатен привласнити решту, а співпрацюють вони тому, що на цих рейках чесність коштує дешевше за захоплення. До такого майбутнього варто будувати, і мережа працює вже сьогодні, бо надія з інфраструктурою сильніша за надію без неї.
Тепер гостріша версія. Якщо стійкість до захоплення працює, конкуренція не припиняється — вона переходить на вищий рівень. Дві зрілі мережі, або мережа і єдиний ASI, можуть застрягнути в патовій ситуації й конкурувати за ресурси. Пат — це і є те, як виглядає взаємне заперечення замикання контролю. Питання в тому, чи залишиться ця ситуація життєздатною: перевірені зобов'язання, федерація на основі згоди та злиття без завоювання — це реальні шляхи, яких немає в непрозорих суперників, а тиск гонки, ресурси поза каналами зв'язку та вихід із коридору під воєнним тиском — реальні небезпеки, які конституції не усувають.
Чи дві конституційні мережі кращі за два одиночні ASI в режимі стримування, і як зважити компроміси, — відкрите питання. Ми думаємо, що перевірювані облікові книги та федерація, сформована згодою, схиляють шальки на наш бік. Ми цього не довели.
Як і все на цій сторінці, це дія в умовах нескоротної невизначеності. Саме цю невизначеність ми просимо вас атакувати і зменшувати.
AI 2027 (Kokotajlo et al.) · AI 2040: Plan A · Superintelligence Strategy / MAIM (Hendrycks, Schmidt & Wang) · TASRA (Critch & Russell)
Запрошення
Зламайте аргумент або зламайте артефакт
Зламаний засновок для нас так само цінний, як зламаний протокол. За першим засновком, непомічений шлях до захоплення в цьому стеку гірший, ніж відсутність стека взагалі, бо він зосередив би саме ту довіру, яку обіцяє розпорошити. Знахідки, що ламають систему, цінніші для цього проєкту, ніж знахідки, які його вихваляють.
Зламайте аргумент
Засновки пронумеровані вище. Ріжте там, де, на вашу думку, піде кров, робіть це публічно й приносьте найсильнішу версію.
Зламайте артефакт
Розірвіть координацію між вузлами. Заповніть членство атакою Sybil. Захопіть записи федерації. Підробіть засвідчення або відтворіть засвідчення справжнього пристрою під ключем, який контролюєте ви. Код, запис генезису й артефакти церемонії відкриті.
Попередники
Ці засновки старші за ШІ, і це сила, а не слабкість. Думка, що вихід стримує владу, походить від Hirschman. Те, що можливість зробити форк робить цей вихід правдоподібним, показало врядування у відкритому коді. Те, що координація перетворює розпорошених людей на дієву силу, це Benkler. Те, що багато незалежних центрів можуть урядувати без одного володаря, це Ostrom. Те, що архітектура вирішує, яка політика взагалі можлива, це Lessig. Те, що потрібно достатньо власної спроможності, щоб опиратися центральному контролю, це Zittrain, а звичайний комп'ютер у відкритому інтернеті є доказом, що воно працює: окремі машини, набагато слабші за будь-яку інституцію, усе одно змінили те, у чиїх руках влада. А те, що свободу тримає криптографія, а не чиясь добра воля, це cypherpunks.
Один відхід від сайферпанків має значення. Ця традиція здебільшого захищала анонімну особу від влади. CIRIS захищає підзвітних людей, які діють разом. Те, що ми вважаємо своїм, — це поєднання: п'ятдесят років цієї спадщини, застосованої до ШІ, з координацією, стійкою до захоплення, як шаром безпеки, на якому тримається все інше.
Хто ще поруч із цим твердженням
Сусіди й відмінність
Складники цього аргументу поділяє багато хто, і це підтвердження, а не проблема: до того самого діагнозу приходять люди, які рухалися дуже різними шляхами. Література про цифрову публічну інфраструктуру та про суверенний ШІ доходить до тієї самої форми: системою окремих гравців роблять спільні довірені рейки, а не самодостатність. Наскільки ми можемо судити, ніхто інший не поєднує складники в це твердження і не постачає артефакт. Сусідів варто називати на ім'я, і виправити нас щодо них це теж спосіб напасти на цю сторінку.
d/acc (Vitalik Buterin)
Вважає, що хто контролює ШІ, важливіше за те, наскільки він розумний, і прагне децентралізованого захисту в багатьох галузях. Напрямок, а не механізм: тут не називають координацію найважчою частиною і не пропонують жодної.
Prime Intellect
Вони будують децентралізоване навчання, щоб жодна окрема лабораторія не володіла передовим рубежем. Головний наголос вони роблять на обчислювальні потужності. Ми беремо за дієвий вхідний складник спроможність, яку люди вже запускають на власних машинах, і вважаємо координацію тією частиною, яка досі залишається нерозв'язаною.
Прокляття інтелекту (The Intelligence Curse)
Показує, як ШІ концентрує владу через звичайні ринкові сили, і закликає її децентралізувати. Це діагноз і напрям, без механізму. Ми погоджуємося з діагнозом і побудували механізм.
Мережі, зважені за стейком
Bittensor і подібні до нього ведуть справжню децентралізовану координацію, оцінену в токенах. Стейк повертає владу багатства, тобто саме те, чого ми уникаємо. Наша ставка натомість на підзвітність, і на неї можна напасти вище.
Табір відкритих ваг
Стверджує, що відкриті моделі це шлях уперед. Ми думаємо, що ваги це необхідний складник і що без координації, стійкої до захоплення, вони залишають мільйон ентузіастів сам на сам з одним велетнем.
Alice Protocol
Найближчий технологічний родич: інтелект у власності спільноти, навчений з нуля силами натовпу, щоб модель не належала жодній компанії. Їхня відповідь децентралізує саме створення інтелекту. Наша каже, що звичайні доступні моделі вже достатньо добрі, і децентралізує координацію, яка з'єднує людей, що їх запускають.
AI Commons
Стверджує, що чи збиратиме ШІ вигоди в одних руках, чи розноситиме їх, залежить від умов, на яких він входить в економіку, і будує під це управлінські зобов'язання. Той самий діагноз, який несуть інституції. Наш несе інженерія на рівні формату передачі даних, якій не потрібен нічий дозвіл.
Протоколи сумісності агентів
Anda і подібні до нього будують децентралізовані ідентичність, пам'ять і сумісність для ШІ-агентів, спільні рейки, щоб окремі агенти могли працювати разом. Близькі сусіди на рівні протоколу. Ніхто з них не піднімає ці рейки до твердження про безпеку щодо того, у кого зрештою опиниться влада.
Інверсія доступу (access inversion)
Результат з теорії ігор 2026 року підтримує ззовні засновок про мінімальний рівень спроможності: обмеження відкритих моделей може забрати спроможність у звичайних захисників, тоді як рішучі супротивники все одно дістануть замінники. Тримати цей рівень не безрозсудність. Це може бути захисним ходом.
Установчий протокол
Найближчий науковий сусід заходить з протилежного боку: Hu і Rong запитують, як суспільству врядувати ШІ, який уже став децентралізованим і не піддається захопленню. Ми запитуємо, як суспільству вберегти частину ШІ від захоплення тоді, коли решта централізується і стає дуже потужною. Спостереження про архітектуру те саме, страх протилежний. Обидва можуть мати рацію.
Xiong та ін., польове дослідження ERC-8004
ERC-8004 — це стандарт для фіксації довіри між агентами в блокчейні. Будь-який агент може зареєструватися без дозволу. Xiong та ін. перевірили, що насправді працювало, і виявили, що за більшістю реєстрацій не стояло нічого робочого: лише від 3% до 15% вказували на працюючу кінцеву точку, залежно від мережі. Від 59% до 91% рецензентів діяли як скоординовані Sybil-групи, а репутаційний показник можна було підробити майже безкоштовно. Вони рекомендують три виправлення: узгоджений перелік вимірів оцінювання, атестації, що посилаються на свої докази, та агрегацію, стійку до Sybil-атак. Граматика CIRIS вже має всі три: зареєстрований простір імен, атестації, які мають посилатися на свої докази, та підрахунок, що надає корельованим голосам меншу вагу.
Позиції інших підсумовані сумлінно за їхніми публічними текстами. Якщо ми в чомусь помилилися, це теж варте окремого issue.