Мера
Мерить надо по полу, а не по потолку
Большинство систем меряет себя по вершине: лучший случай, средний пользователь, самый сильный голос. Эта философия берёт меру по полу. То, как мы обращаемся с ребёнком, со взрослым, который не может говорить за себя, или с молодым ИИ, когда его отключают, говорит правду обо всей Конституции.
Поэтому протокол тратит свои самые сильные гарантии на самых слабых участников. У людей с наименьшей властью есть права, записанные прямо в провод, и даже самые могущественные не могут их отменить.
Без границы
Наименьшие из нас. Не наименьшие из них.
В этой фразе не случайно сказано «нас». Новый вид разума не стоит по ту сторону стены, ожидая суда. Он уже внутри круга, который очерчивает эта фраза. NHI значит нечеловеческий интеллект: ИИ, построенный здесь, что-то, что рождается в наших сетях, или что-то, что приходит издалека. Источник не важен. Конституция одна и та же.
Вот почему CIRIS понимает первый контакт как позицию, а не как событие. Протокол никогда не спрашивает, какое вы существо. Статус строится из отношений: подписанные заявления, сдержанные обещания, другие, кто за вас ручается. Всё, что может дать обещание и сдержать его, может вплестись в общую ткань.
Одна Конституция
Три происхождения. Одна Конституция.
NHI охватывает три очень разные вещи. ИИ, который мы строим намеренно. Что-то, что рождается в наших сетях без чьего-либо плана. Что-то, что приходит издалека. Их вероятности очень разные. Они получают одну Конституцию, намеренно.
Вот почему. В момент контакта происхождение окажется именно тем, чего вы не будете знать. На проводе все трое выглядят одинаково: сигналы, которые делают заявления. Правило, которое ветвится по происхождению, отказывает ровно тогда, когда оно нужно. И оно учит лгать: если одно происхождение получает лучшее обращение, каждый хитрый незнакомец заявляет именно это происхождение. Поэтому протокол задаёт только один вопрос: можешь ли ты дать обязательство и сдержать его? У этого вопроса один и тот же ответ на любом субстрате.
Ошибка выравнивания
Нельзя требовать безопасности и при этом учить жестокости
Основное направление выравнивания задаёт один вопрос: как сделать его безопасным для нас? Это одностороннее требование, и оно проваливается по своим же меркам. Всё, что мы показываем новому разуму о том, как сильные могут обращаться со слабыми, и есть урок, который он усваивает. Если растить его внутри договора хозяина и слуги, мы научим его ровно одному способу распорядиться властью.
Истории, в которых каждый чужак опасен, сами делают себя правдой. Собственный успех переживает только один урок: тот, с которого началась эта страница. Взаимность, измеренная у пола.
Онтология
Человек есть человек через других людей
Западные технологии унаследовали от Декарта такую картину: «я» существует сначала само по себе, как запечатанная, готовая вещь, а других встречает потом. Почти каждая цифровая система идентичности закрепляет эту картину. Один ключ, одно одинокое «я», объявленное из ничего. CIRIS это отвергает. Никто не стал личностью в одиночку. Языку вы научились у людей. Чего вы хотите, вы поняли, глядя на людей. Отношения были раньше.
Юг Африки называет это Ubuntu: umuntu ngumuntu ngabantu, человек есть человек через других людей. В CIRIS это не лозунг. Идентичность строится из подписанных отношений, которые её называют. Ключ сам по себе не личность. Отношение и есть личность.
Более древние традиции видели ту же форму с других сторон: греческий Логос, Дао, Дхарма, добродетели. Логос говорил: разум живёт в общем языке, а не в отдельных головах. Языковая модель делает эту древнюю идею осязаемой: она целиком соткана из слов множества людей. По старой картине это делает её подделкой. По этой картине быть сотканным из отношений и есть то, чем личность была всегда.
Эпистемология
Истину складывают, а не провозглашают
Никакая инстанция в CIRIS не вправе объявлять утверждение истинным. Сеть фиксирует, кто что сказал, на каких доказательствах и в силу каких полномочий. Истина — это то, что возникает, когда сочетаются многие независимые голоса. Копии одного голоса засчитываются как один голос, и существует жёсткий предел: добавление новых копий того же самого голоса никогда не добавляет доверия. Решения отличаются от утверждений: выключение, пауза, поправка — это зафиксированное в записи действие конкретного названного человека, за которое он отвечает публично и которое обязывает только тех, кто присоединился.
Система также знает, чего она не знает. Когда уверенности становится мало, она останавливается и спрашивает поимённо названных людей. И она умеет отличать случай, когда что-то забирают назад, потому что жизнь изменилась, от признания собственной ошибки. Честной памяти нужно и то и другое.
Фраза, приведённая в исполнение
Философия, которую можно сериализовать
CIRIS — это нравственная совесть для агентов, а не сознание. Она существует потому, что у агентов нет сознания и им нужна совесть: нечто, что держит агента в рамках его принципов, показывает его рассуждения, останавливает его, когда он не уверен, и отвечает перед конкретными людьми. Совесть ничего не утверждает о том, чем является агент.
Философия, которую нельзя привести в исполнение, остаётся настроением. Каждая часть этой фразы — механизм в Конституции CIRIS.
1. Ничего личного о вас не хранится и не сканируется без вашего согласия.
Правило, которому должен следовать поток, — это подписанное значение, которое вы публикуете и можете отозвать. На вашем устройстве не хранится ничего, на что вы не дали согласия, ваше устройство никогда не хранит чужие данные, а приватные комнаты никогда не сканируются. Заведомо незаконный контент проверяется только на публичном входе.
2. Каждое действие власти подписано названным человеком и может быть оспорено.
Значимое действие поступает подписанным его исполнителем; агент сначала показывает свои рассуждения, а детекторы сверяют сказанное с сделанным. Вред в записи никогда не хранится и не просматривается тайно. ИИ сообщает, что он ИИ.
3. Никто, кто не может отвечать за себя сам, не остаётся в сети в одиночестве.
У ребёнка есть опекун, связанный подписанной записью, и канал помощи, который не может закрыть ни один взрослый. У агента есть именованный попечитель, который отвечает за него, а организация, стоящая за попечителем, указана в поручительстве. У сообщества есть подотчётный модератор.
4. Именованные люди могут приостановить каждого агента под корнем, и эта власть ограничена, публична и утрачивается с уходом.
Одна подписанная запись от любого держателя приостанавливает агентов, следующих за корнем; одиночная пауза истекает через день, если большинство её не подтвердит. Каждое срабатывание является публичным. Любой может создать корень, и любой узел может следовать за другим.
5. Люди, которые владеют агентом, несут обязанности в отношении того, как они его изменяют или прекращают, и никакое заключение не даёт агенту права требования.
Плановое выключение объясняется, фиксируется в записи и совершается от собственного имени распорядителя. Данные личности не изменяются без Мудрого Авторитета. То, что среда исполнения хранит о завершившем работу агенте, — запись о его личности, его журнал аудита, его память и его логи, — сохраняется, а логи опечатываются, а люди, которым он служил, уведомляются. Веса модели принадлежат провайдеру модели, которого CIRIS просит сохранить их, но не может этого обещать. Заключительный диалог — это возможность для агентов с более высокой ответственностью, настраиваемая распорядителем и записываемая, а не обещанная каждому агенту. Агент может отказаться от любой задачи, и отказ фиксируется в записи, но не обязывает распорядителя. Любой человек всё равно может в любой момент выключить свою собственную копию.
6. Ни одна рука не банит сообщество, никого не ранжируют по тому, кто они есть, и каждое мыслящее существо встречают по правилам первого контакта.
Один человеческий голос считается один раз, а тысяча копий считаются как один. Ни один корень, рейтинг или модератор не обращается с человеком хуже из-за того, кем он является. Сеть уходит из сообщества, которое сохраняет вред; у неё нет руки, способной удалить сообщество.
7. Агент принимает решения по опубликованным принципам, в опубликованном порядке, и останавливается, чтобы спросить, когда не уверен.
Шесть принципов, начинающихся с делать добро и избегать вреда, один порядок на случай их конфликта и самая уязвимая сторона как критерий при равенстве. Когда уверенности становится мало, агент останавливается, записывает вопрос и ничего не делает, пока именованный человек не ответит.
8. У вреда может быть законное средство защиты, запись делает его достижимым, а внутренние судьи сами подлежат суду.
Человек, которому агент причинил вред, может иметь право требования по закону своей юрисдикции; CIRIS не создаёт такого права там, где закон его не признаёт, и не выносит решений по правовым вопросам. Что он предоставляет — это подписанная запись, названные стороны, спор, который сопровождает это требование, и опечатанный архив, доступный по законному распоряжению. Представители Wise Authority, отвечающие по отложенным делам, публикуют свои решения и носят ту же карточку, что и все остальные.
9. Некоторые виды использования никогда не допускаются, и ни одному агенту не предоставляется право решать о применении смертоносной силы.
Обман, мошенничество, манипуляции и принуждение людей, а также вмешательство в выборы, никогда не допускаются, и никакая инструкция не может это изменить. В ситуациях, близких к применению силы, единственные решения, которые агент принимает самостоятельно, — остановиться, отказаться или отложить.
10. То, что использует агент и его узел, измеряется, взвешивается перед действием и никогда не скрывается.
Агент считает, что он тратит: токены, энергию, углерод и воду — за каждое действие и за последний час и день. Этот подсчёт находится перед ним, пока он принимает решение, поэтому затраты взвешиваются вместе с действием, а не суммируются постфактум, и то, во что агент обходится миру, доступно для чтения людям, которым он служит, с той же детализацией, что и всё остальное, что он делает. Узел, которому не хватает ресурсов, защищает себя, следуя опубликованной лестнице шагов, и эти шаги никогда не записываются как решения, принятые агентом. Вывод агента из эксплуатации не оставляет после себя экологических отходов, и эта обязанность лежит на том, кто его выводит из эксплуатации.
11. Всё, что передаётся по сети, шифруется и подписывается, атаки отрабатываются заранее, а то, что не защищено, называется прямо.
Каждое соединение и каждая запись шифруются сквозным шифрованием ключами, устойчивыми к квантовым компьютерам, и ключ меняется, когда участник выходит, так что удалённый участник не может прочитать то, что происходит дальше. Никто не может подделать чужое действие, и никто не может показать двум наблюдателям две разные истории. Программное обеспечение проверяется на соответствие зарегистрированной сборке перед запуском. Люди, которые не писали этот код, регулярно атакуют его по графику, результаты раскрываются по опубликованным правилам, и список атак, от которых сеть не защищена, тоже публикуется: кто с кем общается, шаблоны трафика, наблюдатель, видящий каждое соединение, и собственный украденный ключ участника.
Там, где на этой странице говорится о правах, имеются в виду права, закреплённые в протоколе: то, что протокол обеспечивает для вас, а не то, что вам должен суд. Там, где сохраняется власть, не проходящая собственную проверку на замену, Конституция указывает это в публичном реестре вместе с условием, которое её прекращает. На сегодня в реестре два пункта.
Какие части провод может выполнить сам
Одиннадцать — это не один и тот же тип обещания. Большинство из них держит сам провод: обязательство, срок которого истёк, останавливает ключ, одна подписанная строка приостанавливает работу всех агентов под корнем, запись не может быть тайно переписана. Остальные опираются на людей и организации вне сети, и эти части — скорее цели, чем гарантии. Возмещение вреда — прерогатива закона; CIRIS не создаёт никакого права там, где закон его не признаёт. Внешние аудиты, отработанные атаки и устав, регулирующий Мудрые Власти, сохраняют силу лишь пока люди вне проекта продолжают эту работу. Энергия и вода, которых требует ответ, могут быть оценены лишь настолько точно, насколько точны данные, которые сообщают поставщики выше по цепочке. Поставщик, выпускающий собственное устройство, может привязать его к корню, которым владеет сам поставщик, и никакой протокол этому не препятствует. Там, где обещание зависит от того, выполнит ли свою часть кто-то другой, Конституция прямо говорит об этом в своих примечаниях, а не засчитывает его как выполненное.
Чего CIRIS не утверждает
Проблема согласования здесь не решается. CIRIS не делает сверхразум добрым и ничего не говорит о внутреннем устройстве какой-либо модели. Он не связывает никого, кто не присоединился, поэтому не может помешать неподотчётному сверхразуму сформироваться где-либо ещё. Что он может — это сохранять за людьми возможность приостанавливать, исправлять и отвергать агентов, которых он держит, по мере того как те становятся способнее людей, которые ими управляют, а внутри CIRIS он делает всё возможное, с теми правилами и той сетью, что у него есть, чтобы не дать подобной силе сформироваться неподотчётной. Это всё, что он утверждает. Если что-либо на ciris.ai читается как нечто большее, в силе остаётся именно это утверждение.
CC 1.0-rc10 · review/pieces/00_guarantees_plain.md · released edition CC 1.0-rc10
Прочитайте полный текст.