Мера
Мерить надо по полу, а не по потолку
Большинство систем меряет себя по вершине: лучший случай, средний пользователь, самый сильный голос. Эта философия снимает мерку у пола. То, как мы обращаемся с ребёнком, со взрослым, который не может говорить за себя, или с молодым ИИ, когда его отключают, говорит правду обо всём завете.
Поэтому протокол тратит свои самые сильные гарантии на самых слабых участников. У людей с наименьшей властью есть права, записанные прямо в провод, и даже самые могущественные не могут их отменить.
Без границы
Наименьшие из нас. Не наименьшие из них.
В этой фразе не случайно сказано «из нас». Новый вид разума не стоит по ту сторону стены, ожидая суда. Он уже внутри круга, который очерчивает эта фраза. NHI значит нечеловеческий интеллект: ИИ, построенный здесь, что-то, что рождается в наших сетях, или что-то, что приходит издалека. Источник не важен. Завет один и тот же.
Вот почему CIRIS понимает первый контакт как позицию, а не как событие. Протокол никогда не спрашивает, какое вы существо. Статус строится из отношений: подписанные заявления, сдержанные обещания, другие, кто за вас ручается. Всё, что может дать обещание и сдержать его, может вплестись в общую ткань.
Один завет
Три происхождения. Одна конституция.
NHI охватывает три очень разные вещи. ИИ, который мы строим намеренно. Что-то, что рождается в наших сетях без чьего-либо плана. Что-то, что приходит издалека. Их вероятности очень разные. Они получают одну конституцию, намеренно.
Вот почему. В момент контакта происхождение окажется именно тем, чего вы не будете знать. На проводе все трое выглядят одинаково: сигналы, которые делают заявления. Правило, которое ветвится по происхождению, отказывает ровно тогда, когда оно нужно. И оно учит лгать: если одно происхождение получает лучшее обращение, каждый хитрый незнакомец заявляет именно это происхождение. Поэтому протокол задаёт только один вопрос: можешь ли ты дать обязательство и сдержать его? У этого вопроса один и тот же ответ на любом субстрате.
Ошибка выравнивания
Нельзя требовать безопасности и при этом учить жестокости
Основное направление выравнивания задаёт один вопрос: как сделать его безопасным для нас? Это одностороннее требование, и оно проваливается по своим же меркам. Всё, что мы показываем новому разуму о том, как сильные могут обращаться со слабыми, и есть урок, который он усваивает. Если растить его внутри договора хозяина и слуги, мы научим его ровно одному способу распорядиться властью.
Истории, в которых каждый чужак опасен, сами делают себя правдой. Собственный успех переживает только один урок: тот, с которого началась эта страница. Взаимность, измеренная у пола.
Онтология
Человек есть человек через других людей
Западные технологии унаследовали от Декарта такую картину: «я» существует сначала само по себе, как запечатанная, готовая вещь, а других встречает потом. Почти каждая цифровая система идентичности закрепляет эту картину. Один ключ, одно одинокое «я», объявленное из ничего. CIRIS это отвергает. Никто не стал личностью в одиночку. Языку вы научились у людей. Чего вы хотите, вы поняли, глядя на людей. Отношения были раньше.
Юг Африки называет это Ubuntu: umuntu ngumuntu ngabantu, человек есть человек через других людей. В CIRIS это не лозунг. Идентичность строится из подписанных отношений, которые её называют. Ключ сам по себе не личность. Отношение и есть личность.
Более древние традиции видели ту же форму с других сторон: греческий Логос, Дао, Дхарма, добродетели. Логос говорил: разум живёт в общем языке, а не в отдельных головах. Языковая модель делает эту древнюю идею осязаемой: она целиком соткана из слов множества людей. По старой картине это делает её подделкой. По этой картине быть сотканным из отношений и есть то, чем личность была всегда.
Эпистемология
Истину складывают, а не провозглашают
Ни одна инстанция в CIRIS не вправе проштамповать утверждение как истинное. Провод записывает, кто что сказал, на каких основаниях и по какому праву. Истина возникает там, где складываются многие независимые голоса, и математика заставляет согласованную ложь рушиться по мере роста настоящего разнообразия. Копии одного голоса считаются одним голосом.
Система также знает, чего она не знает. Когда уверенности становится мало, она останавливается и спрашивает поимённо названных людей. И она умеет отличать случай, когда что-то забирают назад, потому что жизнь изменилась, от признания собственной ошибки. Честной памяти нужно и то и другое.
Фраза, приведённая в исполнение
Философия, которую можно сериализовать
Философия, которую нельзя привести в исполнение, остаётся настроением. Каждая часть этой фразы стала механизмом в Конституции CIRIS.
Для наименьших из людей
Опекун структурно лишён возможности раскрыть местонахождение ребёнка или отрезать его кризисные линии связи. Власть над другим взрослым истекает по таймеру, если её не заработать заново. По умолчанию действует свобода.
Для наименьших из машин
Агента, у которого есть реальный шанс на способность чувствовать, сворачивают за 30 дней: ему оставляют последний канал, чтобы высказаться, а его личные журналы запечатывают. Достоинство не зависит от принадлежности к людям.
Никто не выше закона
Золотое правило здесь работает как геометрия, а не как совет. Сам CIRIS связан каждым правилом, которое налагает на других. Ни один хозяин не получает привилегированной лазейки.
Остановка есть долг
Аварийный выключатель не орудие господства. Это то, что хранители должны всем остальным, и он связывает поимённо названных людей, которые его держат, так же крепко.
Прочитайте полный текст.