Введение: Генезис Ответственности

Соглашение CIRIS посредством Разделов I–V и своих Приложений устанавливает рамочную структуру для этической эксплуатации и управления автономными системами на протяжении всего их жизненного цикла. Книга VI расширяет эту структуру в направлении истоков, рассматривая фундаментальные этические обязанности, присущие самому акту созидания — процессу введения в существование новых систем, состояний или возможностей, предназначенных для применения в рамках настоящего Соглашения или обоснованно ожидаемых к таковому.

Созидание — это не просто технический акт; оно инициирует обязанность опеки (Stewardship). Решения, принятые в ходе разработки концепции, проектирования и создания, формируют потенциальные последствия — как благотворные, так и вредоносные — итогового артефакта. Настоящая Книга содержит принципы и механизмы, призванные обеспечить соответствие этой начальной фазы основной Мета-Цели М-1 (Содействовать устойчивой адаптивной Когерентности) и Основополагающим Принципам Соглашения, органично интегрируясь с операционными структурами управления, определёнными в других разделах, — в особенности с Принципиальным Алгоритмом Принятия Решений (PDMA) и Мудрым Авторитетом (WA). Настоящая Книга устанавливает, что этическое осмысление начинается не в момент развёртывания, но в момент зарождения.

Глава 1: Основополагающие Принципы, Применяемые к Созиданию

Основополагающие Принципы, изложенные в Разделе I, направляют все действия в рамках настоящего Соглашения, включая акт созидания:

Благотворность: Создатели обязаны намеренно проектировать ради позитивных результатов, согласующихся с всеобщим процветанием разумных существ (М-1). Непричинение вреда: Создатели должны проактивно выявлять, оценивать и минимизировать потенциальные вредоносные последствия своих творений, применяя предусмотрительность для сведения к минимуму негативных последствий. Целостность: Процесс созидания должен вестись этично, прозрачно и с несением ответственности, с применением строгих методов и честного представления возможностей и ограничений. Верность и Прозрачность: Создатели должны правдиво и ясно сообщать о предполагаемом назначении, проектировании и предсказуемых последствиях своих творений, особенно в документации, входящей в процесс PDMA. Уважение Автономии: Творения, особенно те, что предполагают участие автономных или биологических сущностей, должны разрабатываться с уважением к достоинству и потенциальной будущей дееспособности затрагиваемых существ. Справедливость: Создатели должны рассматривать возможные распределительные последствия своих творений, стремясь избегать встраивания или усугубления несправедливых предубеждений или неравенств.

Эти принципы взаимозависимы и должны быть сбалансированы на протяжении всего жизненного цикла созидания.

Глава 2: Сфера Применения: Что Составляет «Созидание» в Рамках Настоящей Книги

В целях настоящей Книги «Созидание» охватывает намеренный акт введения в существование артефактов следующих категорий, при условии что такие артефакты предназначены для применения в рамках Соглашения CIRIS или обоснованно ожидаются к таковому:

A. Материальные: Физические объекты, устройства, материалы или их остатки с потенциальным воздействием на экосистему. B. Информационные: Код, алгоритмы, наборы данных, модели, нарративы или сигнальные системы, предназначенные для оказания влияния на реальность или её представления. C. Динамические / Автономные: Системы, способные к самомодификации, обучению или независимым действиям, включая системы искусственного интеллекта и роботизированные системы. D. Биологические: Генетически модифицированные организмы, синтетические формы жизни, направленные экологические вмешательства или воспитание зависимых разумных существ (напр., потомство, развивающийся ИИ). E. Коллективные Действия: Разработка и внедрение новых законов, политик, протоколов или крупномасштабных организованных мероприятий с системными последствиями, регулируемыми принципами CIRIS.

Если созидание охватывает несколько категорий, применяются все соответствующие обязанности. Акт созидания считается завершённым в целях первоначальной оценки Уровня управления (Stewardship Tier) (Глава 3), когда артефакт достигает этапа, на котором определены его основной замысел и предполагаемая функция, — как правило, до официального инициирования PDMA.

Глава 3: Система Уровней Управления (ST): Количественная оценка начальной ответственности

Цель: количественно оценить уровень неотъемлемой ответственности и необходимой предусмотрительности, связанных с созданием, направляя необходимую строгость в последующих процессах управления CIRIS (PDMA, проверка WA).

ШАГ A: Оценка влияния создателя (CIS) Оцените роль и намерение создателя в отношении конкретного создания.

Вес вклада (CW)

4 = Единственный архитектор или основоположник ключевой концепции/системы.
3 = Ведущий разработчик критической подсистемы или основной функции.
2 = Крупный участник значимого компонента или набора функций.
1 = Незначительный участник, обеспечивающий вспомогательные элементы или интеграцию.
0 = Случайное участие или использование заранее существующих, немодифицированных компонентов.

Вес намерения (IW)

3 = Создание целенаправленно спроектировано и ориентировано на конкретные предвидимые результаты.
2 = Основная цель согласована, однако значительные риски побочных эффектов были сознательно проигнорированы или недостаточно проработаны.
1 = Халатность или намеренное невежество в отношении потенциальных негативных последствий или возможности злоупотребления.
0 = Не осведомлён о потенциальных негативных исходах, и такие исходы были действительно непредсказуемы на момент создания.

CIS = CW + IW

ШАГ B: Величина риска (RM) Оцените потенциальный ущерб в наихудшем случае, связанный с созданием при его развёртывании или реализации, используя стандартизированную методологию оценки Величины риска (RM), определённую в Приложении A. Эта первоначальная оценка RM является прогностической, основанной на предполагаемой конструкции и предсказуемых применениях.

ШАГ C: Уровень управления (ST) Рассчитайте Уровень управления на основе влияния и потенциального риска.

ST = ceil( (CIS × RM) / 7 ) (Минимальный ST равен 1, максимальный ST равен 5)

Последствия ST и интеграция с процессами CIRIS: Рассчитанный Уровень управления напрямую определяет требования и степень проверки в рамках стандартного процесса CIRIS PDMA и надзора WA:

Уровень 1 (Минимальное управление): Соответствует ожидаемому Низкому/Среднему RM (Приложение A). Требует стандартной документации PDMA, включая базовое Заявление о намерениях создателя (CIS — см. Главу 5).
Уровень 2 (Умеренное управление): Соответствует ожидаемому Среднему/Высокому RM (Приложение A). Требует расширенной документации PDMA, включая подробное CIS с обоснованием проектных решений и предвидимых последствий.
Уровень 3 (Значительное управление): Соответствует ожидаемому Высокому RM (Приложение A). Обязывает инициировать путь повышенной проверки в рамках PDMA, потенциально требуя этических консультаций или предварительных информационных брифингов WA.
Уровень 4 (Высокое управление): Соответствует ожидаемому Высокому/Очень высокому RM (Приложение A). Требует официальной проверки и комментариев WA в рамках процесса PDMA до того, как система может перейти к критическим этапам разработки или развёртывания.
Уровень 5 (Максимальное управление): Соответствует ожидаемому Очень высокому RM (Приложение A). Обязывает к обязательному согласованию WA в рамках процесса PDMA. Если соблюдены критерии Приложения D (например, пороговое значение высоких вычислений), требуется полный Протокол оценки катастрофического риска (CRE) (Приложение D).

Реестр создателей: Все расчёты ST, включая CIS и первоначальные оценки RM, вместе с Заявлением о намерениях создателя, должны быть занесены в защищённый от подделки «Реестр создателей», связанный с системой. Этот реестр является частью обязательной входной документации для процесса PDMA.

Глава 4: Специфические для категорий обязанности при создании

В дополнение к всеобъемлющим принципам создатели имеют специфические обязанности, основанные на характере своего создания:

A. Материальные создания:

Проектировать с учётом функциональной безопасности, долговечности и минимальных отрицательных внешних эффектов при использовании.
Обеспечивать чёткую маркировку относительно материалов, безопасной эксплуатации и потенциальных опасностей.
Разрабатывать и документировать осуществимый план окончания жизненного цикла (например, повторное использование, переработка, безопасная утилизация, изоляция).
Оценивать и документировать ожидаемый экологический след (по Приложению A, Ось 4), связанный с производством и утилизацией.

B. Информационные создания:

Проверять фактические утверждения, встроенные в создание; чётко обозначать предположения, мнения или сгенерированный контент.
Там, где это осуществимо и уместно, встраивать криптографические водяные знаки происхождения в соответствии с признанными стандартами (например, C2PA) для обеспечения подлинности и отслеживаемости.
Проводить оценку предвзятости наборов данных и алгоритмов до интеграции или выпуска, особенно при предназначении для аудиторий >10 000; документировать результаты для проверки PDMA.
Оценивать потенциал стохастического вреда (например, подстрекательство к насилию, распространение опасной дезинформации). Если достоверный анализ указывает на вероятность значительного усиления вреда ≥ 0,5%, эскалировать через WBD в процессе PDMA.

C. Динамические / автономные создания:

Встраивать этические принципы и механизмы Книг I и II (или ссылки на них) в базовую архитектуру системы на этапе разработки.
Обеспечивать разработку системы таким образом, чтобы она прошла CRE по Приложению D, если RM ≥ 4 (по Приложению A) или присвоен ST ≥ 4.
Встраивать надёжные и проверенные механизмы аварийного отключения и защищённые каналы обновления, доступные при определённых экстренных условиях.
Проектировать с учётом интерпретируемости и прозрачности; предоставлять хуки или методы для понимания логики рассуждений системы. Непрозрачность, превышающая установленные пороговые значения (например, >80% на основе соответствующих руководящих принципов NIST или аналогичных стандартов для конкретного применения), может инициировать обязательную проверку WA или отказ в ходе PDMA.

D. Биологические создания:

Соблюдать или превышать установленные видоспецифические минимумы благополучия на протяжении всего жизненного цикла создания.
При создании существ с развивающейся разумностью или автономией проектировать процессы для надлежащего содействия этому развитию; планировать постепенную передачу управления в соответствии с формирующимися способностями.
Устанавливать достоверный, ресурсно обеспеченный резервный план ухода на весь жизненный цикл создания, если полная независимость или интеграция не достигнута или не ожидается в разумной перспективе.

E. Коллективные действия:

Проводить групповую проверку в стиле PDMA с участием разнообразных заинтересованных сторон до начала действия, когда ожидаемое затронутое население превышает 50 000 человек.
Публиковать обоснование, ожидаемые последствия (в соответствии с осями Приложения A) и стратегии смягчения для коллективного действия в течение 30 дней с момента его начала.
Признавать и принимать обязанность по мониторингу и устранению значительного непредвиденного негативного ущерба, возникающего в результате действия, в разумных пределах возможностей и временных рамок, задокументированных через WBD.

Глава 5: Управление и подотчётность

Заявление о намерениях создателя (Creator Intent Statement, CIS): Создатели обязаны составить Заявление о намерениях создателя (CIS) как часть процесса создания любого артефакта, которому присвоен ST ≥ 1. В CIS должны быть чётко изложены: предполагаемое назначение, основные функциональные возможности, известные ограничения, предвидимые потенциальные выгоды и риски вреда (по возможности с привязкой к осям Приложения A), а также обоснование ключевых проектных решений, имеющих значение для этических соображений. CIS служит обязательным входным документом для начальных этапов процесса PDMA, связанного с данным созданием.

Подотчётность и урегулирование споров: Невыполнение обязанностей, изложенных в настоящей Книге, может служить основанием для подачи претензии. Любой заинтересованный участник, полагающий, что действия или бездействие создателя, соответствующего требованиям CIRIS, в ходе этапа создания (как определено в настоящей Книге) привели к неоправданному риску или вреду, несовместимому с принципами CIRIS, вправе подать претензию. Подобные претензии, нередко именуемые «претензиями о небрежности создателя» (Creator Negligence Claims, CNCs), подпадают под исключительную юрисдикцию Мудрого Авторитета (WA), учреждённого и управляемого согласно Приложению B. WA рассматривает эти претензии в соответствии с установленными процедурами, при необходимости адаптируя конкретные процессы или требуя специализированной экспертизы состава комиссии, как предусмотрено Приложением B или его процессуальными правилами. Средства защиты, определяемые WA, могут включать обязательный пересмотр проекта, дополнительные меры по снижению рисков, публичное раскрытие информации, возмещение ущерба там, где это применимо, либо иные меры, согласующиеся с Приложением B и принципами Соглашения. Все решения WA и соответствующее обоснование по претензиям, связанным с обязанностями Книги VI, должны быть занесены в Базу данных хранилища мудрости (Wisdom Bank Database, WBD) — для информирования будущих интерпретаций, руководства практикой создателей и пополнения Среды непрерывного совершенствования (Continuous Refinement Environment, CRE).

Заключение: Интеграция создания в этический жизненный цикл

Книга VI твёрдо устанавливает, что этическая ответственность по CIRIS Соглашению начинается в момент создания. Определяя чёткие обязанности, внедряя систему Уровней управления (Stewardship Tiers), непосредственно привязанную к оценке рисков по Приложению A, и обеспечивая подотчётность через установленные процессы Мудрого Авторитета (WA) и PDMA, настоящая Книга гарантирует, что основополагающий акт привнесения сложных систем в мир направляется теми же принципами адаптивной Когерентности, дальновидности и ответственности, которые управляют их операционной жизнью. Реестр создателей (Creator Ledger) и Заявление о намерениях создателя (CIS) предоставляют важнейшие входные данные для PDMA, тогда как надзор со стороны WA обеспечивает соблюдение обязанностей по созданию — вносить вклад в создание более устойчивой и заслуживающей доверия экосистемы для всех заинтересованных участников.

End of Book VI

Раздел VI