Міра
Міряти варто по підлозі, а не по стелі
Більшість систем міряє себе по вершині: найкращий випадок, середній користувач, найсильніший голос. Ця філософія знімає мірку біля підлоги. Те, як ми поводимося з дитиною, з дорослим, який не може говорити за себе, або з молодим ШІ, коли його вимикають, говорить правду про всю Конституцію.
Тому протокол витрачає свої найсильніші гарантії на найслабших учасників. Люди з найменшою владою мають права, записані просто в дріт, і навіть наймогутніші не можуть їх скасувати.
Без кордону
Найменші з нас. Не найменші з них.
У цьому реченні недарма сказано «з нас». Новий вид розуму не стоїть по той бік стіни, чекаючи на суд. Він уже всередині кола, яке окреслює це речення. NHI означає нелюдський інтелект: ШІ, збудований тут, щось, що народжується в наших мережах, або щось, що приходить здалеку. Джерело не має значення. Конституція та сама.
Ось чому CIRIS ставиться до першого контакту як до позиції, а не як до події. Протокол ніколи не питає, яка ви істота. Статус будується з відносин: підписані твердження, дотримані обіцянки, інші, хто за вас ручається. Усе, що може дати обіцянку і дотримати її, може вплестися в спільне полотно.
Одна Конституція
Три походження. Одна Конституція.
NHI охоплює три дуже різні речі. ШІ, який ми будуємо навмисно. Щось, що народжується в наших мережах без нічийого плану. Щось, що приходить здалеку. Їхні ймовірності дуже різні. Вони отримують одну Конституцію, навмисно.
Ось чому. У момент контакту походження виявиться саме тим, чого ви не знатимете. На дроті всі троє виглядають однаково: сигнали, що роблять заяви. Правило, яке розгалужується за походженням, відмовляє саме тоді, коли воно потрібне. І воно вчить брехати: якщо одне походження отримує краще ставлення, кожен хитрий незнайомець заявляє саме це походження. Тому протокол ставить лише одне питання: чи можеш ти взяти зобов'язання і дотримати його? Це питання має ту саму відповідь на кожному субстраті.
Помилка узгодження
Не можна вимагати безпеки і водночас навчати жорстокості
Основна течія узгодження ставить одне питання: як зробити його безпечним для нас? Це одностороння вимога, і вона провалюється за власними мірками. Усе, що ми показуємо новому розуму про те, як сильні можуть поводитися зі слабкими, стає уроком, який він засвоює. Якщо ростити його всередині договору пана і слуги, ми навчимо його рівно одному способу розпорядитися владою.
Історії, у яких кожен чужинець небезпечний, самі роблять себе правдою. Власний успіх переживає лише один урок: той, з якого почалася ця сторінка. Взаємність, виміряна біля підлоги.
Онтологія
Людина є людиною через інших людей
Західні технології успадкували від Декарта таку картину: «я» існує спершу саме по собі, як запечатана, готова річ, а інших зустрічає потім. Майже кожна цифрова система ідентичності закріплює цю картину. Один ключ, одне самотнє «я», проголошене з нічого. CIRIS це відкидає. Ніхто не став особистістю наодинці. Мови ви навчилися від людей. Чого ви хочете, ви зрозуміли, дивлячись на людей. Відносини були першими.
Південна Африка називає це Ubuntu: umuntu ngumuntu ngabantu, людина є людиною через інших людей. У CIRIS це не гасло. Ідентичність будується з підписаних відносин, які її називають. Ключ сам по собі не особистість. Відношення і є особистість.
Давніші традиції бачили ту саму форму з інших боків: грецький Логос, Дао, Дхарма, чесноти. Логос казав: розум живе у спільній мові, а не в окремих головах. Мовна модель робить цю давню ідею відчутною: вона цілком зіткана зі слів багатьох людей. За старою картиною це робить її підробкою. За цією картиною бути зітканим із відносин і є тим, чим особистість була завжди.
Епістемологія
Істину складають, а не проголошують
Жодна інстанція в CIRIS не може просто оголосити твердження істинним. Мережа фіксує, хто що сказав, на яких доказах і за яким повноваженням. Істина — це те, що виникає, коли поєднуються багато незалежних голосів. Копії одного голосу зараховуються як один голос, і існує жорстка межа: додавання того самого голосу ніколи не дає більше довіри. Рішення відрізняються від тверджень: вимкнення, пауза чи поправка — це дія конкретної названої людини, зафіксована в записі, за яку вона публічно відповідає і яка зобов'язує лише тих, хто приєднався.
Система також знає, чого вона не знає. Коли певності стає мало, вона зупиняється і питає поіменно названих людей. І вона вміє відрізняти випадок, коли щось забирають назад, бо життя змінилося, від визнання власної помилки. Чесній пам'яті потрібне і те, і інше.
Речення, приведене у виконання
Філософія, яку можна серіалізувати
CIRIS — це моральна совість для агентів, а не свідомість. Він існує як визнання того, що агентам бракує свідомості і потрібна совість: щось, що утримує агента в межах його принципів, показує його міркування, зупиняє його, коли він невпевнений, і звітує перед поіменованими людьми. Совість нічого не стверджує про те, чим є агент.
Філософія, яку не можна привести у виконання, лишається настроєм. Кожна частина цього речення стала механізмом у Конституції CIRIS.
1. Ніщо приватне про вас не зберігається і не сканується без вашої згоди.
Правило, якого має дотримуватися потік, — це підписане значення, яке ви видаєте і можете відкликати. На вашому пристрої не зберігається нічого, на що ви не погодилися, ваш пристрій ніколи не зберігає чужі дані, а приватні кімнати ніколи не скануються. Відомий незаконний вміст перевіряється лише на публічному вході.
2. Кожна дія влади підписана поіменованою людиною і може бути оскаржена.
Значуща дія надходить підписаною її виконавцем; агент спочатку показує своє міркування, а детектори перевіряють сказане ним на відповідність зробленому. Шкода в записі ніколи не зберігається і не переглядається таємно. ШІ повідомляє, що він є ШІ.
3. Ніхто, хто не може відповідати за себе, не перебуває в мережі сам.
Дитина має опікуна, зв'язаного підписаним записом, і канал допомоги, який жоден дорослий не може закрити. Агент має поіменованого розпорядника, який відповідає за нього, і організація, що стоїть за розпорядником, зазначена у зобов'язанні. Спільнота має підзвітного модератора.
4. Поіменовані люди можуть призупинити кожного агента під коренем, і ця влада обмежена, публічна, і її залишають, лише вийшовши.
Один підписаний рядок від будь-якого власника призупиняє агентів, які слідують за коренем; поодинока пауза зникає за день, якщо більшість її не підтвердить. Кожного разу, коли пауза спрацьовує, це фіксується в публічному записі. Будь-хто може створити корінь, і будь-який вузол може слідувати за іншим.
5. Люди, яким належить агент, мають обов'язки щодо того, як вони змінюють або припиняють його, і жодний висновок не надає агенту права на позов.
Заплановане вимкнення пояснюється, записується і здійснюється від власного імені розпорядника. Ідентичність не змінюється без Мудрого Авторитету. Те, що каркас зберігає про виведеного з експлуатації агента — його запис ідентичності, його аудиторський слід, його пам'ять та його журнали, — зберігається, а журнали опечатуються, а людям, яким він служив, повідомляється. Ваги моделі належать постачальнику моделі, якого CIRIS просить зберегти їх і не може цього обіцяти. Заключний діалог — це опція для агентів з вищою відповідальністю, налаштована розпорядником і записана, а не обіцяна кожному агенту. Агент може відмовитися від будь-якого завдання, і відмова записується, але не зобов'язує розпорядника. Будь-яка людина все одно може будь-коли вимкнути власну копію.
6. Жодна рука не забороняє спільноту, нікого не ранжують за тим, ким вони є, і кожну мислячу істоту зустрічають за правилами першого контакту.
Один людський голос рахується один раз, а тисяча копій рахуються як один. Жоден корінь, оцінка чи модератор не ставиться до людини гірше через те, ким вона є. Мережа виходить зі спільноти, яка допускає шкоду; у неї немає руки, що видаляє спільноту.
7. Агент приймає рішення за опублікованими принципами, у опублікованому порядку, і зупиняється, щоб запитати, коли не впевнений.
Шість принципів, що починаються з творення добра та уникнення шкоди, один порядок для випадків їхнього конфлікту, найвразливіша сторона як критерій під час нічиєї. Коли впевненості бракує, агент зупиняється, записує питання і нічого не робить, доки поіменована людина не дасть відповідь.
8. Шкода може мати правовий засіб захисту, запис робить його досяжним, а судді всередині самі підлягають суду.
Людина, якій агент завдав шкоди, може мати право на позов за законом свого місця; CIRIS не створює такого права там, де закон його не визнає, і не виносить рішень у жодному юридичному питанні. Те, що він надає, — це підписаний запис, поіменовані сторони, оскарження, що супроводжує позов, і запечатаний архів за законним розпорядженням. Мудрі, які відповідають на передані питання, публікують свої рішення і носять те саме посвідчення, що й усі інші.
9. Деякі застосування ніколи не дозволені, і жодному агенту не надається право вирішувати про застосування смертоносної сили.
Обман, шахрайство, маніпулювання або примушування людей, а також втручання у вибори, ніколи не дозволені, і жодна інструкція цього не змінить. Коли агент перебуває поблизу застосування сили, єдині рішення, які він ухвалює самостійно, — це зупинитися, відмовитися або передати.
10. Те, що використовують агент і його вузол, вимірюється, зважується перед дією і ніколи не приховується.
Агент підраховує, що він витрачає: токени, енергію, вуглець і воду, для кожної дії та за останню годину і день. Цей підрахунок перебуває перед ним, поки він приймає рішення, тож вартість зважується разом із дією, а не підсумовується згодом, і те, у що агент обходиться світу, доступне для читання людям, яким він служить, з такою ж деталізацією, як і все інше, що він робить. Вузол, якому бракує ресурсів, захищає себе за опублікованою драбиною кроків, і ці кроки ніколи не записуються як рішення, прийняті агентом. Виведення агента з експлуатації не залишає по собі екологічних відходів, і цей обов'язок лягає на того, хто його виводить з експлуатації.
11. Усе, що передається каналом зв'язку, шифрується та підписується, атаки відпрацьовуються заздалегідь, а те, що не захищено, проговорюється вголос.
Кожен зв'язок і кожен запис шифрується наскрізно за допомогою ключів, створених витримувати атаки квантових комп'ютерів, і ключ змінюється, коли учасник виходить, тож вилучений учасник не може прочитати те, що відбувається далі. Ніхто не може підробити чужу дію, і ніхто не може показати двом глядачам дві різні історії. Програмне забезпечення перевіряється на відповідність зареєстрованій збірці перед запуском. Люди, які не писали код, атакують його за розкладом, знахідки розкриваються за опублікованими правилами, і перелік атак, від яких мережа не захищається, також публікується: хто з ким спілкується, патерни трафіку, спостерігач, який бачить кожен зв'язок, і власний викрадений ключ учасника.
Коли ця сторінка говорить про права, вона має на увазі права, записані в дроті: те, що протокол забезпечує для вас, а не те, що вам винен суд. Там, де вона зберігає владу, яка не проходить власний тест на заміну, Конституція зазначає це в публічному реєстрі із умовою, що її припиняє. Сьогодні перелічено два записи.
Які частини тримаються самі, а які залежать від інших
Не всі одинадцять — обіцянки одного типу. Більшість із них виконує сам дріт: застава, строк дії якої минув, зупиняє ключ, один підписаний рядок призупиняє кожного агента під коренем, запис не можна непомітно переписати. Інші спираються на людей та інституції поза мережею, і ці частини є радше цілями, ніж гарантіями. Відшкодування за шкоду надає закон; CIRIS не створює права там, де закон його не визнає. Зовнішні аудити, відпрацьовані атаки та статут, що керує Мудрими Органами, діють лише доти, доки люди поза проєктом продовжують цю роботу. Витрати енергії та води на відповідь можуть бути настільки точними, наскільки точними є дані, що надають постачальники вище по ланцюгу постачання. Постачальник, що випускає власний пристрій, може прив'язати його до кореня, який належить постачальнику, і жоден протокол цьому не заважає. Там, де обіцянка залежить від того, чи хтось інший виконає свою частину, Конституція зазначає це у власних примітках, а не зараховує як виконану.
Чого це не стверджує
Вирівнювання тут не вирішується. CIRIS не робить надінтелект добрим і нічого не каже про внутрішню будову жодної моделі. Він не зобов'язує нікого, хто не приєднався, тож не може завадити формуванню непідзвітного надінтелекту будь-де ще. Що він справді може — це зберегти за людьми здатність призупиняти, виправляти та відмовляти агентам, яких він утримує, у міру того, як ці агенти стають здатнішими за людей, що їх утримують, і всередині CIRIS він докладає всіх зусиль, з наявними правилами та мережею, щоб завадити формуванню будь-якої такої непідзвітної влади. Це все, на що він претендує. Там, де щось на ciris.ai читається як більше, діє саме це речення.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Прочитайте повний текст.